Chap 1 概率
试验与事件
定义(随机试验)
- 不能预先确知结果;
- 试验之前可预测所有可能结果.
定义(样本空间) 一个试验所有可能结果之集 $(\Omega)$.
- 定义(随机事件) $a$ $well$ $defined$ $subset$ $A\in\Omega$.
- 全事件 $\Omega$ (必然事件);
- 空事件 $\varPhi$ (不可能事件);
- 单一试验结果 (基本事件).
事件的运算
借助集合的语言 $or$ $Venn$ 图.
- 余: $A^c-(\Omega\backslash A)$;
- 和: $A+B-(A\cup B)$;
- 差: $A-B-(A\backslash B)$;
- 积: $AB-(A\cap B)$;
- 互斥: $AB = \varnothing$;
- 对立: $AB = \varnothing, A + B = \Omega$;
- De Morgan 定律: $(A + B)^c = A^cB^c$ $(\sum_n A_n)^c = \prod_n A_n^c$.
概率的几种解释
- 古典解释 - 基于等可能性;
- 频率解释;
- 主观解释.
公理化定义
$2^{\Omega}\Rightarrow\Omega$ 的所有子集构成的集合.
事件集类 $\mathscr{F}\subset\Omega\Rightarrow\sigma{-}$代数: 事件运算的封闭性.
特别地,
定义(Kolmogorov)
满足以下三条公理:
- $P(A)\ge 0, \forall A\in\mathscr{F}$
- $P(\Omega) = 1$
$P(\sum_{i = 1}^{\infty}A_i) = \sum_{i = 1}^{\infty}P(A_i), A_iA_j = \varnothing, \forall i\ne j$
则称 $P$ 为概率函数, $(\Omega, \mathscr{F}, P)$ 为概率空间.
命题
- $P(A)\le1, \forall A\in\mathscr{F}$;
- $P(\varPhi) = 0$;
- $P(A^c) = 1 - P(A)$;
- $P(\sum_{i = 1}^{n}A_i) = \sum_{i = 1}^{n}P(A_i), A_iA_j = \varnothing, \forall i\ne j$;
- $P(A)\le P(B), \forall A\subset B$;
- $P(A + B) = P(A) + P(B) - P(AB)$.
推广
$P(\sum_\limits{i = 1}^{n}A_i) = \sum_\limits{i = 1}^{n}P(A_i) - \sum_\limits{i_1<i_2}P(A_{i_1}A_{i_2}) + \cdots + (-1)^{r - 1}\sum_\limits{i_1 < \cdots < i_r}P(A_{i_1}\cdots A_{i_r}) + \cdots$
例 $n$ 个人, 每人一顶帽子, 随机挑选一顶帽子. 无人拿到自己帽子的概率为? 恰有 $k$ 人拿到自己帽子的概率为?
解答 令 $A_i = $ 第 $i$ 个人拿到自己帽子. 注意到
运用排列组合知识可得
故至少有一个人拿到自己帽子的概率为
无人拿到自己帽子的概率为
条件概率
定义(条件概率) $P(A\mid B) := \cfrac{P(AB)}{P(B)}\,( 需\,P(B) > 0)$.
$A\mid B$ 不是事件.
计算 $(1)$ 缩小样本空间; $(2)$ 定义.
定义(乘法法则) $P(AB) = P(A\mid B)P(B) = P(B\mid A)P(A).$
例 $8$ 个红球, $4$ 个白球, 等可能无放回地取出 $2$ 红球的概率为?
解答 无放回地取出 $2$ 红球的概率为
推广
$P(A_1A_2\cdots A_n) = P(A_1)P(A_2\mid A_1)P(A_3\mid A_1A_2)\cdots P(A_n\mid A_1A_2\cdots A_{n - 1}).$
解答续 在配对问题中, 注意到
定义
令 $\widetilde{P} = P(\cdot\mid B)$, 则 $\widetilde{P}$ 满足以下三条公理:
- $\widetilde{P}(A)\ge 0, \forall A\in\mathscr{R}$
- $\widetilde{P}(\Omega) = 1$
$\widetilde{P}(\sum_{i = 1}^{\infty}A_i) = \sum_{i = 1}^{\infty}\widetilde{P}(A_i), A_iA_j = \varnothing, \forall i\ne j$
故 $\widetilde{P}$ 为概率函数, $(\Omega, \mathscr{F}, \widetilde{P})$ 为新概率空间.
注
- $P(A)\,\textbf{v.s.}\,\widetilde{P}(A) = P(A\mid B)$;
- “已观测到 $A$ 发生, 则 $P(A) = 1$” 这句话是错误的, 因为 $P(A\mid A) = 1$.
独立事件
定义(独立事件) 若 $P(AB) = P(A)P(B)$, 则称事件 $A, B$ 相互独立.
注
- 此时 $P(A\mid B) = P(A)$, 即 $\cfrac{P(AB)}{P(B)} = \cfrac{P(A\Omega)}{P(\Omega)}$;
- 事件 $B$ 的发生未改变 $A$ 发生的概率;
- 从实际角度判断可应用定义中的关系式; 一般利用定义判断独立性.
例 中奖率为 $10^{-5}$ 的彩票每周开奖, 不累积, 一个人购彩十年未中奖的概率为?
解答
每次购彩事件都是独立的.
设事件 $A_i = $ 第 $i$ 周未中奖, 那么 $P(A_i) = 1 - 10^{-5}$.
故 $P = P(A_1A_2\cdots A_{520}) = (1 - 10^{-5})^520 = 99.48\%$.
事件 $A, B$ 相互独立, 则事件 $A^c, B$ 相互独立.
推广
$A, B, C\,相互独立\Leftrightarrow P(ABC) = P(A)P(B)P(C)\,且\,A, B, C\,两两独立$;
$A, B, C\,两两独立\nRightarrow A, B, C\,相互独立$
(反例) 甲乙两人抛掷 $2$ 枚硬币. $A =$ 甲正, $B =$ 乙正, $C =$ 甲乙同.
定义(相互独立)
$A_1, A_2, \cdots, A_n\,相互独立\Leftrightarrow 任\,m\,个事件\,A_{i_1},\cdots, A_{i_m}, 有 P(A_{i_1}\cdots A_{i_m}) = P(A_{i_1})\cdots P(A_{i_m}).$
定义(条件独立)
$A, B$ 关于事件 $E$ 条件独立 $\Leftrightarrow P(AB\mid E) = P(A\mid E)P(B\mid E)$.
注 条件独立与独立不可互推.
$\textbf{Bayes}$ 公式
定义(全概率公式) 给出 $\Omega$ 的一个分割
- $\sum_iB_i = \Omega$;
- $B_iB_j = \varnothing, \forall\,i\ne j$;
- $P(B_i) > 0, \forall\,i$.
则有
定义(Bayes 公式)
其中 $P(B_i)$ 为先验概率, $P(B_i\mid A)$ 为后验概率.
例 $A =$ 阳性, $B =$ 患病, $P(B) = 10^{-4}$, $P(A\mid B) = 0.99$, $P(A\mid B^c) = 10^{-3}$. 求 $P(B\mid A)$, $P(B\mid A_1A_2)$.
解答 由 Bayes 公式, 容易得到
一些讨论
- 什么是概率?
- 不确定性的一种度量;
- 具有不同的解释;
- 公理化定义.
- 为什么用概率?
- 不确定性的来源
- 被建模系统的内在随机性;
- 不完全观测 (Monty Hall 中的参与者);
- 不完全建模.
- 很多情况下, 简单而不确定的规则好于复杂而确定的规则
- 应用、维护、沟通
- 不确定性的来源
- 怎么用概率?
- 计算正确的概率;
- 正确计算概率;
- 正确使用概率.
