嘿，我来帮你把这个问题理清楚！你提到的分部积分后边界项消失的情况，确实是依赖于常微分方程里的标准边界条件假设，咱们一步步拆解来看：

首先先回顾一阶项的分部积分过程：
对于$\int_{-\infty}^{\infty} f'(t)g(t)dt$，用分部积分公式$\int u dv = uv - \int v du$，这里取$u=g(t)$，$dv=f'(t)dt$，那么$du=g'(t)dt$，$v=f(t)$，代入后得到：
$$\int_{-\infty}^{\infty} f'(t)g(t)dt = \left.f(t)g(t)\right|{-\infty}^{\infty} - \int{-\infty}^{\infty} f(t)g'(t)dt$$

这里的边界项$\left.f(t)g(t)\right|_{-\infty}^{{\infty}$之所以消失，是因为在这类微分算子转置的推导中，我们默认研究的是**在无穷远处趋于0的函数空间**（比如平方可积的$L}2(\mathbb{R})$空间，或者具有紧支集的函数——也就是只在有限区间内非零的函数）。对于这类函数，当$t\to\pm\infty$时，$f(t)$和$g(t)$都会趋近于0，所以这个边界项的结果就是$0 - 0 = 0$，于是就得到了你看到的$\int f'g = -\int fg'$。

接下来看二阶项$\int_{-\infty}^{\infty} f''(t)g(t)dt$，我们需要做两次分部积分：
第一次分部积分，取$u=g(t)$，$dv=f''(t)dt$，则$du=g'(t)dt$，$v=f'(t)$，代入后得到：
$$\int_{-\infty}^{\infty} f''(t)g(t)dt = \left.f'(t)g(t)\right|{-\infty}^{\infty} - \int{-\infty}^{\infty} f'(t)g'(t)dt$$
然后对右边的积分再做一次分部积分，取$u=g'(t)$，$dv=f'(t)dt$，则$du=g''(t)dt$，$v=f(t)$，代入后得到：
$$-\int_{-\infty}^{\infty} f'(t)g'(t)dt = -\left.f(t)g'(t)\right|{-\infty}^{\infty} + \int{-\infty}^{\infty} f(t)g''(t)dt$$

把这两步的结果合并起来，总积分就变成：
$$\int_{-\infty}^{\infty} f''(t)g(t)dt = \left.f'(t)g(t) - f(t)g'(t)\right|{-\infty}^{\infty} + \int{-\infty}^{\infty} f(t)g''(t)dt$$

同样的道理，因为我们假设$f$和$g$在无穷远处趋于0，它们的一阶导数在无穷远处也会趋于0（这是这类函数空间的基本性质），所以边界项$\left.f'(t)g(t) - f(t)g'(t)\right|_{-\infty}^{\infty}$的结果也是$0 - 0 = 0$，于是就得到了$\int f''g = \int fg''$。

回到你最开始的算子转置推导，把上面这两个分部积分的结果代入，就能顺利得到$D^T = \frac{d^2}{dt2} - B \frac{d}{dt} + C$的结论啦。

简单总结一下：你并没有漏掉什么，只是这个推导默认了函数在无穷远处衰减到0的常规边界条件——这是处理这类微分算子转置时的标准设定，目的就是让分部积分产生的交叉边界项消失，从而得到简洁的转置算子形式。

备注：内容来源于stack exchange，提问作者Lynette