先验概率和后验概率的区别和联系(辨析先验概率)

在贝叶斯定理中，有两个重要的概念，先验概率和后验概率。这两者是贝叶斯定理的核心内容，深入了解它们的区别和联系对于理解贝叶斯定理是非常重要的。

一、先验概率

先验概率是指在未得到任何新信息之前的概率。也就是说，在得到某些信息之前，我们可以通过以往的经验或已知的信息得出某个事件的概率，这个概率就是先验概率。

以掷硬币为例，假设我们想知道掷一枚硬币正面朝上的概率，但我们并没有掷硬币的经验，此时我们可以认为正反面出现的概率是一样的，也就是先验概率为0.5。


import random

def coin_toss():
    return random.choice(['heads', 'tails'])

heads_count = 0
tails_count = 0

for i in range(10):
    result = coin_toss()
    
    if result == 'heads':
        heads_count += 1
    else:
        tails_count += 1
        
print('Heads count:', heads_count, 'Tails count:', tails_count)

二、后验概率

后验概率是在得到新信息之后重新计算出的概率，也就是说，我们在得到某些新的信息之后，会重新更新我们对于某个事件发生的概率的估计值，这个概率就是后验概率。

以掷硬币为例，假设我们掷了10次硬币，结果正反面出现的次数分别为6次和4次，此时我们就可以重新计算掷硬币正面朝上的概率，这个概率就是后验概率。


import random

def coin_toss():
    return random.choice(['heads', 'tails'])

heads_count = 0
tails_count = 0

for i in range(10):
    result = coin_toss()
    
    if result == 'heads':
        heads_count += 1
    else:
        tails_count += 1
        
print('Heads count:', heads_count, 'Tails count:', tails_count)

# calculate posterior probability
total_count = heads_count + tails_count
posterior_probability = heads_count / total_count

print('Posterior probability:', posterior_probability)

三、先验概率和后验概率的联系

先验概率和后验概率之间有紧密的联系，它们之间可以用贝叶斯定理进行计算。贝叶斯定理是一种基于先验概率和观测数据计算后验概率的方法。可以表示为：

P(A|B) = P(B|A) * P(A) / P(B)

其中，P(A|B) 表示在已经观测到 B 的情况下，A 的概率；P(B|A) 表示在 A 发生的情况下，B 的概率；P(A) 是 A 发生的先验概率；P(B) 是 B 发生的先验概率。


import random

def coin_toss():
    return random.choice(['heads', 'tails'])

def calculate_posterior_probability(total_count, heads_count):
    prior_probability = 0.5
    likelihood = (0.5 ** heads_count) * (0.5 ** (total_count - heads_count))
    marginal_likelihood = (0.5 ** total_count)
    
    return (prior_probability * likelihood) / marginal_likelihood
    

heads_count = 0
tails_count = 0

for i in range(10):
    result = coin_toss()
    
    if result == 'heads':
        heads_count += 1
    else:
        tails_count += 1
        
print('Heads count:', heads_count, 'Tails count:', tails_count)

# calculate posterior probability
total_count = heads_count + tails_count
posterior_probability = calculate_posterior_probability(total_count, heads_count)

print('Posterior probability:', posterior_probability)