条件概率是指事件A在另外一个事件B已经发生条件下的发生概率 记P(A|B)。
举例说明 如上图 求P(Y 0|X 1)
由此可以看出条件概率的求解公式
二、贝叶斯定理贝叶斯定理是关于随机事件A和B的条件概率 或边缘概率 的一则定理。下面不加证明地直接给出贝叶斯定理
贝叶斯定理之所以有用 是因为我们在生活中经常遇到这种情况 我们可以很容易直接得出P(B|A) P(A|B)则很难直接得出 但我们更关心P(A|B) 贝叶斯定理就为我们打通从P(B|A)获得P(A|B)的道路。
三、朴素贝叶斯分类朴素贝叶斯的思想基础是这样的 对于给出的待分类项 求解在此项出现的条件下各个类别出现的概率 哪个最大 就认为此待分类项属于哪个类别。
那么现在的关键就是如何计算第3步中的各个条件概率。我们可以这么做
下面我们来介绍一个全概率公式 它表达的意义是 随机事件X 的发生可能与多个原因有关 考虑全部原因引起事件X 发生的概率总和即为随机事件X 发生的概率 下面给出全概率公式
因此可以推出朴素贝叶斯公式
特征的条件独立性假设是朴素二字的由来 给定样本特征向量之后 朴素贝叶斯分类器取后验概率最大值对应的样本类别作为预测分类 如下所示
上式中 由于分母对于所有的样本类别是相同的 不影响函数最大值点的确定 所以朴素贝叶斯分类器的表达式可以简化为
朴素贝叶斯分类器将后验概率最大的样本类别作为预测分类 在计算上等价于将联合概率最大的样本类别作为预测结果
