求解二项分布Fisher信息时的错误排查咨询
你好呀，咱们一步步拆解你遇到的问题，从源头开始梳理错误点：
首先先明确分布设定：你提到是二项分布，标注了n=2和n=θ——这里应该是笔误吧？合理的设定应该是每个独立观测是参数为(2, θ)的二项分布（即单次试验包含2次伯努利试验，成功概率为θ），且你有n个这样的独立样本$x_1, x_2, ..., x_n$，对吗？
1. 对数似然函数的小问题（不影响求导）
标准的$(2, θ)$二项分布概率质量函数是：
$$P(X=x) = \binom{2}{x}\thetax(1-\theta){2-x}, \quad x=0,1,2$$
n个独立样本的对数似然应该是：
$$\ell(\theta) = \sum_{i=1}^n \left[ \ln\binom{2}{x_i} + x_i\ln\theta + (2 - x_i)\ln(1-\theta) \right]$$
展开后是：
$$\ell(\theta) = \sum_{i=1}^n \ln\binom{2}{x_i} + \left(\sum_{i=1}^n x_i\right)\ln\theta + \left(2n - \sum_{i=1}^n x_i\right)\ln(1-\theta)$$
对比你写的版本，你把$\ln\binom{2}{x_i}$拆成了$\ln x_i! + \ln(2-x_i)!$，但实际上$\binom{2}{x_i} = \frac{2!}{x_i!(2-x_i)!}$，所以$\ln\binom{2}{x_i} = \ln2! - \ln x_i! - \ln(2-x_i)!$，符号有小问题，但这部分是和θ无关的常数，求导时会消失，所以不算核心错误。
2. 二阶偏导数是对的
你给出的二阶偏导数：
$$\frac{-\sum_{i=1}^n x_i}{\theta^2} - \frac{2n - \sum_{i=1}^n x_i}{(1-\theta)^2}$$
这一步没问题，因为一阶导数是：
$$\frac{\partial\ell}{\partial\theta} = \frac{\sum x_i}{\theta} - \frac{2n - \sum x_i}{1-\theta}$$
再求导就能得到你写的二阶导，这部分完全正确。
3. 核心错误：计算期望时混淆了单个观测的分布
问题出在求负期望的步骤！对于每个$x_i \sim \text{Binomial}(2, θ)$，它的期望是$E[x_i] = 2θ$，所以$\sum_{i=1}^n x_i$的期望是$E\left[\sum x_i\right] = n \times 2θ = 2nθ$。
我们把这个正确的期望代入二阶导的期望：
$$E\left[ \frac{-\sum x_i}{\theta^2} - \frac{2n - \sum x_i}{(1-\theta)^2} \right] = -\frac{E[\sum x_i]}{\theta^2} - \frac{2n - E[\sum x_i]}{(1-\theta)^2}$$
代入$E[\sum x_i] = 2nθ$：
$$= -\frac{2nθ}{\theta^2} - \frac{2n - 2nθ}{(1-\theta)^2} = -\frac{2n}{\theta} - \frac{2n(1-\theta)}{(1-\theta)^2} = -\frac{2n}{\theta} - \frac{2n}{1-\theta}$$
而Fisher信息是负的二阶导的期望，也就是：
$$I(\theta) = -E\left[ \frac{\partial2\ell}{\partial\theta2} \right] = \frac{2n}{\theta} + \frac{2n}{1-\theta} = \frac{2n}{\theta(1-\theta)}$$
你之前错误地用了$E[\sum x_i] = nθ$——这是**单次伯努利试验（即n=1的二项分布）**的期望，但你的观测是n=2的二项分布，期望应该是2θ，这就是导致结果多出$(1-\theta)$分母的原因。
另外你提到“Fisher信息应该是$\frac{n}{\theta(1-\theta)}$”，这个是**样本量为n，每个样本是伯努利分布（二项分布n=1）**的Fisher信息。而你的设定是每个样本是n=2的二项分布，所以正确的Fisher信息应该是$\frac{2n}{\theta(1-\theta)}$；如果你的n是单个二项试验的次数（即n=2，样本量为1），那Fisher信息就是$\frac{2}{\theta(1-\theta)}$，完全符合理论形式。
总结一下，核心问题就是混淆了单个观测的期望，修正这个代入值后，结果就和预期一致啦。
备注：内容来源于stack exchange，提问作者Peverel Shipley
