泊松分布MLE后求系数标准误：optim与numDeriv的Hessian选择疑问

API 探路者

2026-5-20

关于泊松MLE中Hessian矩阵的差异与NaN问题解析

嘿，我来帮你把这个问题拆明白～先说说optim()和numDeriv::hessian()的核心区别，再聊聊NaN出现的可能原因，最后给你实用的解决建议。

一、`optim()`与`numDeriv::hessian()`的核心差异

这两个工具本质上都是用数值方法近似Hessian矩阵，但实现逻辑和适用场景有明显区别：

计算策略不同
- optim()的Hessian是优化过程的“附加产物”：它默认用有限差分法，但为了节省计算资源，会结合优化时的梯度信息做近似，步长也是默认的、通用型的，不一定适配你的对数似然函数的数值特性。
- numDeriv::hessian()是专门的数值微分工具：它会用更严谨的有限差分策略（甚至可以手动调整步长），针对目标函数的稳定性做了优化，结果的可靠性通常更高，尤其是当你的对数似然函数形式复杂时。
目标函数的方向容易混淆
泊松MLE的核心是最大化对数似然，但optim()默认是做最小化。很多人会把对数似然取负（变成负对数似然）传给optim()，这时候optim()输出的Hessian是负对数似然的Hessian；而numDeriv::hessian()是直接对你传入的原始对数似然函数计算二阶导数。如果搞混了符号，后续计算标准误肯定会出错！

出现NaN大概率是数值不稳定或者收敛问题导致的，常见情况有：

优化未收敛：先检查optim()的$convergence输出，如果不是0，说明算法没找到真正的MLE最优值，在这个非最优点计算Hessian自然会出现数值异常。
有限差分步长不合适：optim()默认的步长可能和你的参数尺度不匹配。比如某个参数的估计值极小，默认步长下的差分计算会出现除以极小值、数值溢出等问题，直接导致NaN。
对数似然函数本身有数值隐患：比如当lambda趋近于0时，log(lambda)会趋向负无穷；或者计算中出现exp(过大值)导致溢出，这些都会让二阶导数的计算失效。

它是专门做数值微分的，可控性更强，步骤也清晰：

先通过optim()（或其他优化工具）得到MLE估计值mle_est；
定义你的原始对数似然函数（注意是最大化的版本，不是负的）；
用hessian(log_likelihood, mle_est)计算对数似然的Hessian矩阵；
Fisher信息矩阵是-Hessian（因为对数似然的Hessian是负定的），标准误就是Fisher信息矩阵逆的对角线元素开平方：
```
fisher_info <- -hessian(log_likelihood, mle_est)
se <- sqrt(diag(solve(fisher_info)))
```

记得做好这几点：

调用时指定hessian=TRUE，同时检查收敛状态：

fit <- optim(par = initial_guess, fn = neg_log_likelihood, hessian = TRUE)
if(fit$convergence != 0) warning("优化未收敛！")

这时候fit$hessian就是负对数似然的Hessian，直接等于Fisher信息矩阵，标准误计算为：
```
se <- sqrt(diag(solve(fit$hessian)))
```
如果还是出现NaN，试试调整控制参数：比如control=list(reltol=1e-10, ndeps=1e-6)缩小步长，或者换用method="BFGS"这类基于梯度的优化方法（更适合光滑的对数似然函数）。

为了避免数值问题，建议对lambda做对数变换：把参数设为log(lambda)，这样优化时参数可以取任意实数，避免lambda<=0导致log(lambda)无意义的情况，同时让优化过程更稳定。

内容的提问来源于stack exchange，提问作者Dima Ku