深入探讨算法进阶：最大似然估计、赔率计算、FuzzyWuzzy库应用、主成分分析及OneHot编码技术

故地重游之最大似然估计

首先从贝叶斯公式开始&＃xff1a;
给定某些样本D&＃xff0c;在这些样本中计算某结论A1,A2…An出现的概率&＃xff0c;即P(Ai|D),若求maxP(Ai|D)&＃xff0c;则有以下式子&＃xff1a;

– 当样本给定时&＃xff0c;P(D)是常数&＃xff0c;可以忽略

maxP(Ai∣D)&＃61;maxP(D∣Ai)P(Ai)P(D)&＃61;max(P(D∣Ai)P(Ai))maxP(A_i|D)&＃61;max\frac{P(D|A_i)P(A_i)}{P(D)}&＃61;max(P(D|A_i)P(A_i))maxP(Ai​∣D)&＃61;maxP(D)P(D∣Ai​)P(Ai​)​&＃61;max(P(D∣Ai​)P(Ai​))
– 若A1&＃xff0c;A2&＃xff0c;…An的先验概率相等&＃xff08;或者近似&＃xff09;&＃xff0c;则得到以下结论&＃xff1a;
maxP(Ai∣D)→maxP(D∣Ai)maxP(A_i|D)→maxP(D|A_i)maxP(Ai​∣D)→maxP(D∣Ai​)
–也就是说&＃xff0c;问题从在求给定样本D下,A1,A2,...AiA_1,A_2,...A_iA1​,A2​,...Ai​中哪一个结论的发生的可能性最大&＃xff0c;转变为给定一个结论AiA_iAi​&＃xff0c;该样本D产生的概率最大&＃xff08;最大似然估计&＃xff09;。

• 最大似然估计&＃xff08;MLE&＃xff09;&＃xff1a;
  – 设总体分布为$f(x,\theta )$,X1,X2...XnX_1,X_2...X_nX1​,X2​...Xn​为该总体采样得到的样本。因为X1,X2...XnX_1,X_2...X_nX1​,X2​...Xn​独立同分布&＃xff0c;故他们的联合密度函数为&＃xff1a;
  L(x1,x2....xn);θ1,θ2...θk&＃61;∏i&＃61;1nf(xi;θ1,θ2...θk)L(x_1,x_2....x_n);\theta1,\theta2...\theta k&＃61;\prod _{i&＃61;1}^{n}f(x_i;\theta1,\theta2...\theta k)L(x1​,x2​....xn​);θ1,θ2...θk&＃61;i&＃61;1∏n​f(xi​;θ1,θ2...θk)
  –其中&＃xff0c;$\theta$被看做固定但未知的参数&＃xff0c;同时因为样本已经存在&＃xff0c;则可以将样本看成是固定的&＃xff0c;即将$L(x,\theta )$看成是关于$\theta$的函数&＃xff0c;这个函数就叫做似然函数&＃xff0c;求参数$\theta$的值&＃xff0c;使得似然函数取最大值&＃xff0c;这种方法就要做最大似然估计.
• 最大似然估计的求解&＃xff1a;等式两边取对数&＃xff0c;求偏导

赌徒之赔率

• 赔率&＃xff1a;假设在一个赌球中&＃xff0c;买甲队赢的赔率是3&＃xff0c;乙队赢的概率为4&＃xff0c;假设一张票为10元&＃xff0c;若张三买甲队赢&＃xff0c;则张三赚20元&＃xff08;30-10&＃xff0c;其中10元给庄家&＃xff09;&＃xff0c;而庄家亏10元&＃xff08;10-20&＃xff0c;收了张三10元再赔给张三20元&＃xff09;
• 公平赔率&＃xff1a;
  –如图&＃xff1a;

假设票价为一元&＃xff0c;所有人中&＃xff0c;有a人买甲球队赢&＃xff0c;b人买乙球队赢&＃xff0c;则庄家在比赛前收入为&＃xff08;a&＃43;b&＃xff09;元&＃xff0c;同时&＃xff0c;庄家的赔付期望为&＃xff1a;
E(y)&＃61;∑YiPi&＃61;0.8×1.25×a&＃43;0.2×5×b&＃61;a&＃43;bE(y)&＃61;\sum{Y_i}{P_i}&＃61;0.8×1.25×a&＃43;0.2×5×b&＃61;a&＃43;bE(y)&＃61;∑Yi​Pi​&＃61;0.8×1.25×a&＃43;0.2×5×b&＃61;a&＃43;b
由此可见&＃xff0c;庄家不亏不赚&＃xff0c;故当赔率为P&＃61;1YP&＃61;\frac{1}{Y}P&＃61;Y1​时&＃xff0c;为公平赔率

–在实际中&＃xff0c;庄家会将公平赔率乘以某一个小于1的系数$\alpha$&＃xff0c;即得到真实赔率&＃xff1a;
y&＃61;α⋅Pfairy&＃61;\alpha \cdot P_{fair}y&＃61;α⋅Pfair​

Fuzzywuzzy库-Levenshtein distance

• 通过编辑距离来做模糊查询

API&＃xff1a;Fuzzywuzzy

主成分分析(PCA)

• 大佬讲解的很牛逼了&＃xff0c;直接进去啃就完事了

参考视频&＃xff1a;用最直观的方式告诉你&＃xff1a;什么是主成分分析PCA

参考文章&＃xff1a;github

One-hot编码

• 定义:又称为一位有效编码&＃xff0c;主要是采用N位状态寄存器来对N个状态进行编码&＃xff0c;每个状态都由他独立的寄存器位&＃xff0c;并且在任意时候只有一位有效.
• 在机器学习中&＃xff0c;一个特征会有多个值&＃xff0c;也就是多个状态&＃xff0c;如性别&＃xff0c;有男或者女&＃xff0c;财富分为&＃xff1a;贫穷&＃xff0c;温饱&＃xff0c;小康&＃xff0c;富裕&＃xff0c;四个状态&＃xff0c;如图&＃xff1a;
  –将性别用数字1,2表示男&＃xff0c;女&＃xff0c;财富用1&＃xff0c;2&＃xff0c;3&＃xff0c;4分别代表着贫穷&＃xff0c;温饱&＃xff0c;小康&＃xff0c;富裕四个状态

–如果转换成用one-hot编码&＃xff0c;则有下图:

• 疑问之为啥要使用one-hot编码&＃xff1a;https://www.likecs.com/show-64021.html