贝叶斯定理中似然函数是否必须为离散概率质量函数？

这个问题问得非常好——很多人刚接触贝叶斯推断时都会被这个点困惑，我来给你拆解清楚：

• 结论先行：似然函数完全可以是连续概率密度函数（PDF），绝非局限于离散PMF

你提到的困惑点很关键：连续情况下，观测到「恰好等于X」的概率确实是0，但这其实是混淆了概率和概率密度的概念，而似然函数的核心逻辑根本不依赖于“绝对概率”。

为什么连续PDF能做似然？ #

似然函数的本质不是计算“观测到X的概率”，而是衡量在给定参数θ时，当前观测数据X的相对合理性——换句话说，我们关心的是“当θ取不同值时，哪个θ更可能产生我们现在看到的数据”，而不是这个数据出现的绝对概率是多少。

对于连续变量，PDF值本身不是概率，但它代表了“观测值落在X附近极小区域内的概率密度”：密度越高，说明在X附近取值的概率越大。我们用这个密度值作为似然，完全可以比较不同θ下的相对合理性——比如θ₁对应的PDF值是0.8，θ₂对应的是0.2，那显然θ₁比θ₂更“适配”当前数据。

举个实际例子 #

假设我们观测到一个连续数据点x，已知它服从均值为θ、方差固定的正态分布N(θ, σ²)。这时候似然函数就是：

L(θ|x) = (1/√(2πσ²)) * exp(-(x-θ)²/(2σ²))

这就是标准的正态PDF。我们用这个似然函数做贝叶斯推断时，会结合θ的先验分布p(θ)，通过贝叶斯定理计算后验分布：
$$p(θ|x) = \frac{f(x|θ)p(θ)}{\int_{-∞}^{∞} f(x|θ')p(θ')dθ'}$$
这里分母是x的边缘密度，积分后整个式子是完全合法的概率分布，完全可以用来估计θ的取值。

为什么教材常用离散例子？ #

教材里偏爱二项分布这类离散PMF，主要是因为离散场景的概率计算更直观，容易让初学者理解“似然是参数对应数据出现的概率”这个基础概念，但这绝对不是说似然只能是离散的。当你深入到连续数据的推断（比如计量经济学、机器学习里的回归问题），连续PDF作为似然是极其常见的操作。

最后再划个重点 #

似然的核心是相对比较，而非绝对概率值。不管是离散PMF还是连续PDF，只要能反映“不同参数下，当前数据出现的相对可能性”，就可以作为似然函数使用。

内容的提问来源于stack exchange，提问作者Thomas Moore