共轭先验

[[贝叶斯公式]] $p(\boldsymbol{w} \mid \boldsymbol{X})=\frac{p(\boldsymbol{X} \mid \boldsymbol{w}) p(\boldsymbol{w})}{p(\boldsymbol{X})}$

• 分母 px 与 w 无关
• $p(\boldsymbol{w} \mid \boldsymbol{X}) \propto p(\boldsymbol{X} \mid \boldsymbol{w}) p(\boldsymbol{w})$
• 后验相关于似然乘先验

[[共轭]]： ((654ba94f-68a7-46a1-a087-04e730a78b3d))

• 如何判断？
  • ((654ba9e7-5f7a-481f-bf0a-c9209fdf3884))
    • 不是先验和似然的函数形式是否相同，也不是似然和后验函数形式是否相同。
    • 先验和后验都是对 $\boldsymbol{w}$ 建模，似然是基于$\boldsymbol{w}$ 对 X 建模。
      • 先验与似然的的研究对象不同，不能强求函数形式相同。
      • 先验和后验是对同一对象的两个不同模型，可以要求有相同的函数形式。
  • 特殊情况： ((654bab7b-73e6-497e-bd07-84a9c1502a23))
    • ((654bab8b-fb77-4ba4-9ca0-5a34b492234b))
• 似然和先验共轭，后验分布和先验分布是共轭分布
  • 例子：
    • ((654bac16-56bc-4ef2-810c-bd4beb29c0e2))
      • 伯努利分布是随机变量 x 服从的分布，对应似然，相当于似然和先验共轭
    • ((654bac98-d1ea-4e10-9bab-e4eab5f210fb))
      • 后验与先验共轭
    • ((654bacb4-c6ea-4871-a3e5-06efe5b602c7))

共轭先验是一种特殊的先验

• 局限性 #card
  • ((654bad38-6a4e-4d47-a0b7-4bf6e4d5d6f5))
• 优点 #card
  • ((654bace8-05cf-4668-a80e-d32971d32450))
    • 先验和后验函数形式相同
  • ((654bacf0-0597-4acf-bbb6-9e5735439257))

网络回响