1 先验概率 先验概率是指根据以往经验和分析得到的概率.比如说一颗骰子出现4的概率是1/6,或者一个袋子中有4个黑球,6个白球,则摸到白球的概率是60%。 2 后验概率 后验概率其实是一种条件概率。比如 发生堵车的事件为A 发生交通事故的事件为B 现在已知堵车,求是由于交通事故造成的概率即P(A/B),P(A/B)就是后验概率。 3 贝叶斯算法 贝叶斯算法其实是通过先验概率来求其后验概率即P(yi/x),其中yi是第i个类别,x是特征。 当我们假设特征之间是独立的,则为朴素贝叶斯算法,P(yi/x) = P(yi)*P(x/yi)/P(X),其中 P(yi)是类别的先验概率也叫做似然,P(x/yi)是样本x相对于类别yi的条件概率,对于给定的样本P(X)和类别无关,即所有类别的P(x)都是一样的。则我们将求P(yi/x)的问题转化为了求P(yi)和似然P(x/yi),P(x/yi) = P(x1/yi)P(x2/yi)…P(xn/yi) (x1…xn为n个特征)。