朴素贝叶斯

• 香农公式
• 定义
  • 先验概率，条件概率，后验概率
  • 朴素在于假设所有特征相互独立
• 逻辑分析的问题
  • 高耦合
• 公式
  • $P(y=1|x)=\frac{P(y=1)P(x|y=1)}{P(x)}$
    • $=\frac{P(y=1)P(x_1|y=1)P(x_2|y=1)P(x_3|y=1)}{P(x)}$
    • 数据量小时，加先验概率
    • 不抗冗余
    • 一般的分布
      • 二项分布
      • 多项分布
        • 求均值要有物理意义
        • 二项分布有均值
      • 正态分布
    • x如果是连续值
      • 一般默认正态分布