Cyan's Blog

Search

Search IconIcon to open search

Understanding Bayes' Theorem

Last updated Dec 19, 2021 Edit Source

# Understanding Bayes’ Theorem

2021-12-19

Tags: #Math/Probability #Bayes

# Bayes’ Theorem: Statement

$$P(A \mid B)=\frac{P(B \mid A) P(A)}{P(B)}$$

Bayes定理还有不同的形式:

# Bayes’ Theorem: Counter-intuitive Side

这些科普视频都集中展现了Bayes定理的反直觉的一面:

Wikipedia: 一个类似的例子: 吸毒者检测

Bayes定理为什么在上面的例子里面会给出反直觉的结论? 因为即使误检率很低, 要是基数很大的话, 呈阳性的人里面也会有很大一部分是患病的人, 所以即使检出了阳性, 实际患病的概率还是很小的: 400 要想提高检出正确阳性的概率, 就应该减小"健康的人检出为阳性的概率(Specificity)"

一个检测方法的正确率其实需要两个指标来衡量:

  • 敏感度(Sensitivity): 对于患病者, 有多大概率检出ta为患病的(True Positive Rate)
  • 明确度(Specificity): 对于健康的人, 有多大概率能正确得出ta为健康的(True Negative Rate)

400

# Bayes’ Theorem: Intuitive Geometry Representation

# Geometry Representation:

500

# Update of Prior Beliefs

下面这个视频片段也许解释的更清楚一点:

# Change of Perspective

对比一下两个表示:

现在我们来观察Bayes的公式: $$P(A \mid B)=\frac{P(B \mid A) P(A)}{P(B)}$$ 如果你去做了癌症检查, 得到了阳性结果(事件B), 那么你一定很想知道你真的有癌症的概率有多大 (即概率$P(A\mid B)$ ). 用右边的图来理解, 即你已经确定B发生了, 可以只关注图片的下半部分: 450

而我们常常这样计算$P(A\mid B)$: $$P(A \mid B)=\frac{P(B \mid A) P(A)}{P(B \mid A) P(A)+P(B \mid \neg A) P(\neg A)}$$ 其中$P(A), P(B \mid A), P(B \mid \neg A)$分别表示疾病的发生率, 检测方法的Sensitivity和Specificity, 计算时通常它们都是已知的或者可以使用频率近似代替概率.

注意我们计算这个概率使用的是左边的图, 即"总体的角度", 而我们得到的结果是"个体的角度"里面的指标$P(A\mid B)$ : 一个已经检测为阳性的人的患病概率. 也就是说, Bayes定理实现了视角的切换(Change of Perspective)

# 拓展

有了直观的表示方法, Bayes定理可以很容易地推广到多个类的情况: