关于Spivak《流形上的微积分》中复合映射变量替换公式的推导疑问
首先回顾原文中的定理与待证结论：
3-13 Theorem
Let $A\subset\mathbb{R}^n$ be an open set and $g:A\to\mathbb{R}^n$ a 1-1, continuously differentiable function such that $\det g'(x)\neq 0$ for all $x\in A$. If $f: g(A)\to\mathbb{R}$ is integrable, then $$\int_{g(A)}f=\int_A(f\circ g)|\det g'|.$$
- 若上述定理对$g:A\to\mathbb{R}n$和$h:B\to\mathbb{R}n$（其中$g(A)\subset B$）均成立，则对复合映射$h\circ g:A\to\mathbb{R}^n$也成立。
原文给出的部分推导过程为：
$$\int_{h\circ g(A)} f = \int_{h(g(A))} f=\int_{g(A)} (f\circ h)|\det h'|=\int_A [(f\circ h)\circ g][|\det h'|\circ g]\cdot |\det g'|=\int_A f\circ (h\circ g) |\det (h\circ g)'|.$$
其中疑问点在于：已知定理对$h:B\to\mathbb{R}^n$成立（即$\int_{h(B)} f=\int_{B} (f\circ h)|\det h'|$对任意可积$f:h(B)\to\mathbb{R}$成立），但如何严格证明$\int_{h(g(A))} f=\int_{g(A)} (f\circ h)|\det h'|$？能否直接通过$g(A)\subset B$自动得到该等式？
解答
你提的这个问题核心是如何将大集合$B$上的变量替换公式“限制”到其子集$g(A)$上。不能直接默认等式自动成立，但可以通过构造辅助函数+利用$h$的单射性质来严格证明，具体步骤如下：
利用已知的$h$的变量替换公式
已知定理对$h:B\to\mathbb{R}^n$成立，即对任意可积函数$F:h(B)\to\mathbb{R}$，有：
$$\int_{h(B)} F = \int_B (F\circ h)|\det h'|.$$构造零延拓的辅助函数
针对目标子集$h(g(A))$，定义辅助函数$\tilde{f}:h(B)\to\mathbb{R}$：
$$\tilde{f}(y) = \begin{cases}
f(y) & \text{若 } y\in h(g(A)), \
0 & \text{若 } y\in h(B)\setminus h(g(A)).
\end{cases}$$
因为$f$在$h(g(A))$上可积，且$\tilde{f}$仅在$h(B)$的补集区域取0（不影响可积性），所以$\tilde{f}$在$h(B)$上可积。对辅助函数应用变量替换公式
将$\tilde{f}$代入$h$的变量替换公式：
$$\int_{h(B)} \tilde{f} = \int_B (\tilde{f}\circ h)|\det h'|.$$化简两边积分
- 左边：$\int_{h(B)} \tilde{f} = \int_{h(g(A))} f$，因为$\tilde{f}$在$h(B)\setminus h(g(A))$上取0，这部分积分贡献为0。
- 右边：由于$h$是1-1映射（定理要求$h$是单射、$C^1$且行列式非零），$h(x)\in h(g(A))$当且仅当$x\in g(A)$，因此$\tilde{f}\circ h(x)$在$x\in g(A)$时等于$f(h(x))$，在$x\in B\setminus g(A)$时等于0。所以：
$$\int_B (\tilde{f}\circ h)|\det h'| = \int_{g(A)} (f\circ h)|\det h'|.$$
- 联立得到目标等式
将左右两边的化简结果联立，即可得到：
$$\int_{h(g(A))} f = \int_{g(A)} (f\circ h)|\det h'|.$$
关键说明
为什么不能直接通过$g(A)\subset B$默认等式成立？因为原变量替换公式是针对**整个定义域$B$**的积分，而我们需要的是子集$g(A)$上的版本。但借助$h$的单射性质（保证了$h$的像集与原集的一一对应），加上零延拓的辅助函数，就能把大集合上的结论严格限制到子集上，补全了推导的严谨性。
备注：内容来源于stack exchange，提问作者佐武五郎
