《概率论入门精讲》：深入解析样本空间、概率计算与条件概率概念

一、排列组合

基本三个公式&＃xff1a;
1、二项式系数

2、多项式系数

3、方程解的个数

难度不大&＃xff0c;解题中注意问题的转化。

二、样本空间

样本空间&＃xff1a;考虑一个实验&＃xff0c;所有可能结果构成的子集&＃xff0c;称为该实验的样本空间。
这个定义就说明了样本空间的概率是1。

事件&＃xff1a;样本空间的任意子集称为事件。

集合运算&＃xff1a;
因为事件是集合&＃xff0c;所以概率计算中就需要用到集合的各种运算&＃xff0c;总结如下&＃xff1a;
1、交并补
2、交换律、结合律、分配率。
3、德摩根定律。

4、推演出的常用公式&＃xff1a;

这个公式推广以后就可以说明全概率公式的正确性。

可以推广到更多个事件。
上面两个公式很有用&＃xff0c;因为求并集的每个事件之间都是互斥的。

互斥事件
两个事件 E F 互斥&＃xff08;不相容&＃xff09;&＃xff0c;满足EF &＃61; 空集。也就是说两个事件不可能同时发生。

三、概率

笼统的讲&＃xff0c;有两种概率。第一种是熟知的事件发生的相对频率取极限之后收敛的值。第二种是主观概率&＃xff0c;是可信度的度量。

如果用数学语言来定义概率呢&＃xff1f;
概率是定义在样本空间中的事件上的集函数&＃xff0c;满足三个公理。
1、概率值非负&＃xff0c;不大于1。
2、样本空间概率为1。
3、不相容事件并的概率&＃xff0c;是每个事件概率的和。

概率的演算公式
1、包含关系

看起来简单&＃xff0c;证明一下呢&＃xff1f;

2、补集

3、交集&＃xff08;intersection&＃xff09;
事件交集的概率并不能从事件的概率求出来。除非事件是相互独立的。

4、并集&＃xff08;union&＃xff09;

推广一下&＃xff0c;就成了容斥公式&＃xff1a;

5、布尔不等式

可以从容斥公式推出。

概率的计算
一般直接计算事件概率的方法&＃xff08;不是从其他事件推理出&＃xff09;&＃xff0c;是统计事件包括的样本空间结果数量&＃xff0c;除以样本空间所有结果的数量。这里有一个假设是&＃xff0c;样本空间里每一个结果出现的概率是一样的。很多情况下&＃xff0c;即是不说明&＃xff0c;这个假设都应该是存在的。

目前&＃xff0c;概率的计算就是算出两个排列组合的值&＃xff0c;然后相除。后面的很多情况下&＃xff0c;新的事件概率是从已知的概率推理出来的&＃xff0c;这可以算两个不同的概率计算模式。

四、条件概率

条件概率相关的公式
1、条件概率的定义

一个变化的公式也很常用

2、乘法规则

连续使用条件概率定义的公式&＃xff0c;可以证明正确性。

3、贝叶斯公式

忘记机器学习里关于贝叶斯公式的东西&＃xff0c;从简单的问题来理解贝叶斯公式。

假如有n个事件&＃xff0c;每个事件记为Fj&＃xff0c;这些事件的概率都已知。也就是P(Fj)&＃xff0c;这个被称为先验概率&＃xff08;就是最初的概率嘛&＃xff09;。
这种情况下&＃xff0c;突然发生了一个事件E&＃xff0c;此时要求E为条件的情况下Fj的概率&＃xff0c;也就是后验概率。

考虑Fj是n个对同一个问题的不同假设&＃xff08;比如某人是否是癌症病人&＃xff09;&＃xff0c;每种假设有一个先验概率。当观察到一个事件E时&＃xff0c;E能够对不同假设产生不同效果&＃xff08;比如肺部有一大片阴影这个事件会提高病人得了癌症的概率&＃xff09;。所以E也叫做证据。根据证据我们就可以修正原来假设的概率&＃xff0c;修正后的概率就是后验概率。

简单说&＃xff0c;贝叶斯公式是根据观察到的证据修正假设的概率的方法。

举个例子说明概率修正的意思。你去买彩票&＃xff0c;中头奖的概率是已知的吧。开奖那天你无意中知道除了最后一个数字外&＃xff0c;你买的彩票和头奖的开奖结果一模一样。这时&＃xff0c;你对中头奖的预期就被大大提高了。这就是已知的证据修正了你对是否中头奖这个问题的假设的概率。

4、优势比
事件A发生的概率和A不发生的概率的比值是事件A的优势比。

这个公式可以认为是证据修正事件优势比的公式。由贝叶斯公式推出。

5、全概率公式

其中Fi两两之间是不相容的。这就是贝叶斯公式等号右边的分母的部分。

独立事件
从上面贝叶斯公式的讨论中知道&＃xff0c;证据事件E会修正已有事件F的概率&＃xff0c;也就是说P&＃xff08;F | E&＃xff09;一般不等于P( F )。如果E不能对F产生影响的话&＃xff0c;那么就认为E&＃xff0c;F两个事件是独立的。有公式&＃xff1a;

P( F | E ) &＃61; P( F )

换种表达&＃xff1a;

如果三个事件之间互相独立&＃xff0c;有&＃xff1a;

独立性推广到任意个事件之间&＃xff1a;

概率独立性重要的原因在于很多的试验由一连串的重复试验组成的&＃xff0c;试验之间彼此相同且相互独立的&＃xff0c;也就是独立同分布。独立事件的定义保证了在计算一个独立同分布的重复试验的结果时&＃xff0c;可以由每个事件的概率的乘积得到。

条件概率满足概率的所有定义
条件概率的定义满足概率的三个公理&＃xff0c;在给定条件的情况下&＃xff0c;事件的条件概率就是一个概率。

有点废话的感觉&＃xff0c;换作用公式表示&＃xff1a;P(F | E) &＃61; Q( F )。就是说E为条件下F的概率可以看做另一个F的概率函数。这个函数Q满足概率的所有定义和演算公式。所以条件概率上也可以使用上述的概率演算公式。上述概率演算公式中&＃xff0c;每一个概率表达式中&＃xff0c;都添加一个相同的条件&＃xff0c;就得到条件概率的演算公式了。

条件独立&＃xff08;条件概率的独立&＃xff09;
既然条件概率是一个概率了&＃xff0c;当然也可以计算条件概率和拥有独立性。思路类似&＃xff1a;

如果把条件F去掉&＃xff0c;就成了普通的独立事件公式了。

另外验证条件概率的条件概率&＃xff1a;
P( E1 | E2F ) &＃61; P( E1E2 | F ) / P( E2 | F )
看&＃xff0c;如果把F条件去掉&＃xff0c;是不是就成了普通的条件概率的公式。以上两个结论都证明了条件概率满足概率的所有定义这个事实。

五、难点

1、事件的互斥性和独立性。
关于两个事件的以下结论成立&＃xff1a;
互不相容一定不独立
独立一定相容

PS&＃xff1a;一个没想通的问题
命题&＃xff1a;若P( A | B ) &＃61; 1&＃xff0c;则B 属于A。该命题成立吗&＃xff1f;如果不成立&＃xff0c;正确的推论应该是什么呢&＃xff1f;