SERIES · 概率论与数理统计

8 贝叶斯公式

2024-08-21 · 10 min read · by GUMP

8 贝叶斯公式

贝叶斯公式

贝叶斯公式(Bayes' Theorem)是概率论中的一条基本定理,用于计算在给定一些先验信息的情况下,某一事件的后验概率。贝叶斯公式的表达式如下:

P(AB)=P(BA)P(A)P(B)P(A|B) = \frac{P(B|A) \cdot P(A)}{P(B)}

其中:

  • P(AB)P(A|B) 是在事件 B 发生的条件下事件 A 的后验概率(posterior probability)。
  • P(BA)P(B|A)是在事件 A 发生的条件下事件 B 的概率,称为似然(likelihood)。
  • P(A)P(A) 是事件 A 的先验概率(prior probability),即在考虑任何新的信息之前 A 发生的概率。
  • P(B)P(B)是事件 B 的边际概率,即在任何先验信息下 B 发生的概率。

贝叶斯公式的应用包括机器学习、统计学、人工智能等领域。它允许我们通过考虑先验信息来更新我们对某一事件的信念或概率。特别是在分类问题中,贝叶斯公式可以用于计算给定观测数据后,某一类别的后验概率,从而进行更准确的分类。

定理1.3 A1AnA_{1}…A_{n} 完备 B P(A2)>0P(B)>0P(A_{2})>0\quad P(B)>0

P(AkB)=P(Ak)P(BAk)t=1πP(At)P(BAt)=P(AkB)P(B)\displaystyle P(A_{k}|B)=\frac{P(A_{k})P(B|A_{k})}{\sum_{t=1}^{\pi}P(A_{t})P(B|A_{t})}=\frac{P(A_{k}B)}{P(B)}

content-image-1

P(Ai)P(A_{i}) 先验

P(AiB)P(A_{i}|B) 后验

例2:发病率0.0004

患者有病(99%)没病(1%)

健康人有病(0.1%)没病(99.9%)

检验有病,真有病的概率

解:AA:患者 A\overline{A}:健康人BB:检验有病

P(A)=0.0004,P(A)=0.9996P(BA)=0.99,P(BA)=0.001P(B)=P(A)P(BA)+P(A)P(BA)=0.0004×0.99+0.9996×0.001=0.0013956\begin{aligned} P(A)&=0.0004,\quad P(\overline{A})=0.9996 \\ P(B|A)&=0.99,\quad P(B|\overline{A})=0.001 \\ \\ P(B)&=P(A)P(B|A)+P(\overline{A})P(B|\overline{A}) \\ &=0.0004\times0.99+0.9996\times0.001 \\ &=0.0013956 \end{aligned}

P(AB)=P(AB)P(B)=P(A)P(BA)P(B)=0.0004×0.990.0017956=0.284\displaystyle P(A|B)=\frac{P(AB)}{P(B)}=\frac{P(A)P(B|A)}{P(B)}=\frac{0.0004\times0.99}{0.0017956}=0.284