2016年6月

说说重要的贝叶斯公式吧

贝叶斯思想

贝叶斯方法在机器学习中应用很多,无疑扮演着一个非常重要的作用,它的公式其实很简单,无非就是一个条件概率的公式,即P(A|B)=P(A)*P(B|A)/P(B),即B发生的情况下A发生的概率是等于A发生的概率乘以A发生的情况下B发生的概率然后除以B发生的概率,这个小小的公式给很多问题带了了不一样的解法,或者说不一样的思维。这里通常有一些记法,例如P(A)一般叫做先验概率,P(B|A)叫做似然概率,P(B)叫做归一化因子,而P(A|B)叫做后验概率.

下面我通过两个例子来说明贝叶斯思想的有趣应用.

举例1:饼干问题

假设现在有两碗饼干,碗1中有30个曲奇和10个巧克力,碗2中有20个曲奇和20个巧克力,如果现在随机从其中一个碗中随机抽取一个饼干,发现抽到的是曲奇,请问该曲奇来自碗1的概率是多少?用公式来描述此问题的话,就是求P(碗1|曲奇)的数值是多少.那么根据贝叶斯公式,我们知道P(碗1|曲奇)=P(曲奇|碗1)P(碗1)/P(曲奇),根据题设,P(曲奇|碗1)=30/50=3/4,P(碗1)=1/2,P(曲奇)=(20+30)/80=5/8,因此P(碗1|曲奇)=3/4 1/2 / 5/8 = 3/5,这样我们就成功地运用了贝叶斯方法解决了这个问题.

举例2:MontyHall问题

假设有三个门,每个门后面都有一个奖品,其中一个奖品是一辆车,另外两个奖品是很没有价值的东西.奖品是由Monty随机布置的,游戏的规则是谁抽中了车子的那个门,谁就可以拥有车.现在你选择了门1,另外两个门分别记做2和3,在你打开门之前,Monty打开了2和3中的其中一扇门3,并且袒露了那扇门后面并没有车子,请问你现在是否要更换注意?或者还是坚持门1.即求出此时坚持1门或者更换的概率分别是多少.这里我们依然可以选择使用贝叶斯分析方法来分析这个问题.

我们用D1 D2 D3分别代表Monty打开1 2 3门的事件,用C1 C2 C3分别代表车子在1 2 3门后面的事件,我们知道Monty打开2个门的先验概率都是1/2.即P(D2)=P(D3)=1/2;现在假设车子在1门后面,则Monty打开3门的概率是P(D3|C1)=1/2,由于Monty永远都不会打开那扇藏有车子的门,因此假如车子藏在3门后面则Monty打开3门的概率为0,即P(D3|C3)=0;最后,如果车子藏在2门后面,则Monty打开3门的概率为1,即P(D3|C2)=1;因此,我们计算出P(C1|D3)=P(C1)P(D3|C1)/P(D3)=1/3 1/2 / 1/2 = 1/3;P(C2|D3) = P(C2) P(D3|C2) / P(D3) = 1/3 1 / 1/2 = 2/3; 因此,更换决策的话,概率为2/3.

贝叶斯公式在语音识别以及自然语言处理领域同样有着十分重要的应用,可以说贝叶斯公式是深度学习的重要基础公式之一!

来自:https://mp.weixin.qq.com/s?__biz=Mzg4NDA5MDcxMg==&mid=2247485595&idx=1&sn=0ca35431296ca77d8afc90e4887eed16&source=41#wechat_redirect