关于杰弗里斯先验不变性证明中链式法则应用的疑问
我懂，这个步骤乍一看确实容易懵，咱们一点点把它掰碎了说清楚：
首先先把你贴的推导完整放出来，方便对照：
$$
\begin{align*}
\frac{d^2\log p(y | \phi)}{d\phi^2}
&= \frac{d}{d\phi} \left( \frac{d \log p(y|\theta(\phi))}{d \theta} \frac{d\theta}{d\phi} \right) \tag{chain rule}\
&= \left(\frac{d^2 \log p(y|\theta(\phi))}{d \theta d\phi}\right)\left( \frac{d\theta}{d\phi}\right) + \left(\frac{d \log p(y|\theta(\phi))}{d \theta}\right) \left( \frac{d2\theta}{d\phi2}\right) \tag{prod. rule} \
&= \left(\frac{d^2 \log p(y|\theta(\phi))}{d \theta^2 }\right)\left( \frac{d\theta}{d\phi}\right)^2 + \left(\frac{d \log p(y|\theta(\phi))}{d \theta}\right) \left( \frac{d2\theta}{d\phi2}\right) \tag{chain rule}
\end{align*}
$$
你的疑问是最后一行第一个项怎么来的，核心就是处理倒数第二行里的混合偏导$\frac{d^2 \log p(y|\theta(\phi))}{d \theta d\phi}$。咱们单独拎这个偏导出来看：
这个混合偏导的本质是：先对$\theta$求$\log p(y|\theta)$的一阶导，然后再对$\phi$求导——但注意$\theta$本身是$\phi$的函数（$\theta = \theta(\phi)$），所以当我们对$\phi$求导的时候，得再用一次链式法则：
$$
\frac{d}{d\phi}\left( \frac{d \log p(y|\theta(\phi))}{d\theta} \right) = \frac{d}{d\theta}\left( \frac{d \log p(y|\theta)}{d\theta} \right) \cdot \frac{d\theta}{d\phi}
$$
右边第一个部分就是$\frac{d^2 \log p(y|\theta)}{d\theta2}$，所以整个混合偏导就变成了$\frac{d2 \log p(y|\theta)}{d\theta^2} \cdot \frac{d\theta}{d\phi}$。
现在把这个结果代回倒数第二行的第一个项：$\left(\frac{d^2 \log p(y|\theta(\phi))}{d \theta d\phi}\right)\left( \frac{d\theta}{d\phi}\right)$，就变成了：
$$
\left( \frac{d^2 \log p(y|\theta)}{d\theta^2} \cdot \frac{d\theta}{d\phi} \right) \cdot \frac{d\theta}{d\phi} = \frac{d^2 \log p(y|\theta)}{d\theta^2} \cdot \left( \frac{d\theta}{d\phi} \right)^2
$$
这就是最后一行里的第一个项啦！说白了就是对混合偏导又用了一次链式法则，把对$\phi$的导数转换成对$\theta$的导数乘以$\theta$对$\phi$的一阶导，最后就得到了二阶导乘一阶导的平方。
备注：内容来源于stack exchange，提问作者Mathematicing
