密码学｜5.3 概率论贝叶斯公式

5.3.2

贝叶斯公式

在上一节的 例5.22 中，两个事件 和 同时发生的概率与我们知道一个事件已经发生，另一个事件发生的概率。前者记为；后者则称为在上的条件概率。

定义在上的条件概率

和同时发生的概率与在上的条件概率有关，公式如下

式 5.18 通常被视为条件概率的定义。在左侧，我们假设发生，所以我们现在的样本空间是而不是。我们要求事件发生在这个较小的样本空间中的概率，因此我们计算事件中包含事件的概率的分母应该是事件的大小。这给出了式 5.18 的右侧。

根据式 5.18 我们也有：

式子两边除以我们就得到最早版本的贝叶斯公式

这个公式一般用在：当我们知道在上的条件概率，但想知道在上的条件概率。

有时，通过将事件划分为不相交事件的并集来计算事件的概率更容易，如下一个命题，该命题包括贝叶斯公式的另一个版本。

命题 5.24

证明：1. 的证明说明了我们如何利用基本概率公式。

我们将 1 中的和换一下，
然后将 5.22 代入 5.19 的分母部分我们就得到 5.21 了。

下面是一些使用条件概率的例子，而贝叶斯公式将在下一节使用。

例 5.25 有两个装有金币和银币的盒子。盒 1 中有 10 个金币和 5 个银币，和 2 中有 2 个金币和 8 个银币。现在我们随机的挑选一个盒子，随机的取一枚硬币，那么取出一枚金币的概率有多大呢？

我们设事件为取出一枚金币，发生的概率依赖于选择的盒子，然后是盒子中哪一枚硬币被获取。因此，很自然的，我们将事件发生的所有可能结果进行划分。

我们设事件为从盒子 1 中进行选取。那么就是从盒子 2 中进行选取。那么根据公式 5.20，我们有

这里的关键点是我们很容易就能计算右手边的条件概率，同样也很容易计算和，即

于是我们计算出

例 5.26 三个囚犯问题

三个囚犯是一个关于条件概率的经典问题。三名囚犯 Alice、Bob 和 Carl 被狱警告知：第二天，其中一人将出狱，但另外两人将不得不服无期徒刑。狱卒说，他不会告诉任何囚犯他或她会发生什么。但是 Alice，她认为自己获得自由的机会现在是，要求狱卒给她一个囚犯的名字，除了他自己，谁不会被释放。狱卒告诉 Alice， Bob 将继续呆在监狱里。那么现在 Alice 自由的机会有多大？概率是否发生了变化？Alice 可能会说，她现在有被释放的机会，因为 Bob 肯定会被继续监禁。另一方面，似乎也有理由认为，由于 Bob 或 Carl 中的一人肯定会呆在监狱里，这一额外的信息也不能改变 Alice 的命运。

事实上，任何一个答案都可能是正确的。这取决于狱卒在决定给 Alice 哪个名字时遵循的策略（假设 Alice 知道正在使用哪个策略）。如果狱卒在 Bob 和 Carl 都可以选择的情况下会随意选择一个名字，那么爱丽丝获得自由的机会并没有改变。然而，如果狱卒会优先给出鲍勃的名字，其次才是 Carl，那么新的信息确实会把爱丽丝的释放概率改变为。

宙飒天下网