关于线性椭圆PDE极值原理在非线性椭圆方程（线性化椭圆型）中的应用及Monge-Ampere方程次解符号的问询

Hi Luca, great question—let's break this down step by step, starting with your broader question about extending linear elliptic maximum principles to nonlinear equations, then diving into the specific Monge-Ampere case.

线性椭圆极值原理向非线性椭圆方程的推广 #

当然可以用线性椭圆方程的极值原理来分析非线性椭圆方程（线性化椭圆型）的经典次/超解，核心思路是通过线性化构造辅助算子：

假设你有一个非线性椭圆方程：
$$F(D^2u, Du, u, x) = 0$$
其中$F$满足椭圆性——即$F$关于Hessian矩阵的偏导数构成的矩阵（$F_{D^{2u}$）是正定的。对于次解$F(D}2u, Du, u, x) \geq 0$，我们可以构造围绕$u$的线性化算子：
$$L[v] = F_{D^2u}(D2u, Du, u, x) : D^2v + F_{Du}(D^2u, Du, u, x) \cdot Dv + F_u(D^2u, Du, u, x)v$$
这个算子$L$是线性且椭圆的（得益于原非线性方程的椭圆性）。之后就可以对$L$应用标准的线性椭圆极值原理（比如强极值原理、比较原理），结合原非线性方程的结构调整辅助函数或条件，从而推导$u$的性质（比如边界值约束、内部极值情况等）。

针对Monge-Ampere方程次解的具体分析 #

现在来看你提出的问题：若$u \in C^2(\Omega) \cap C^0(\overline{\Omega})$是下述Monge-Ampere方程的经典次解：
$$ \begin{cases}
\det(D^2u)\geq 0 & \text{in }\Omega\
u=0 & \text{on }\partial\Omega
\end{cases} $$
我们可以得出结论：$\Omega$内$u \leq 0$恒成立，具体推导如下：

采用反证法，结合Hessian矩阵的性质和扰动论证：

1. 假设存在$x_0 \in \Omega$使得$u(x_0) > 0$。由于$u$在边界上取值为0，$u$必然在$\Omega$内部某点$x_0$处取得正的最大值。在该最大值点，$Du(x_0) = 0$，且$D^2u(x_0)$是半负定矩阵（函数在局部最大值点的Hessian矩阵半负定）。
2. 情况1：$\Omega$的维度$n$为奇数
   奇数维的半负定矩阵行列式非正（非正特征值的乘积，项数为奇数）。但次解条件要求$\det(D^2u(x_0)) \geq 0$，因此必须有$\det(D^2u(x_0)) = 0$，即Hessian矩阵退化。
   为打破退化性，构造扰动函数$u_\epsilon = u - \epsilon \phi(x)$，其中$\phi$是$\Delta\phi = 1$在$\Omega$内、$\phi=0$在$\partial\Omega$上的正解。当$\epsilon$足够小时，$u_\epsilon$在$x_0$附近仍为正，且在边界上为负，因此会在$\Omega$内部某点$x_0'$取得正最大值。此时$D^2u_\epsilon(x_0') = D^2u(x_0') - \epsilon D^{2\phi(x_0')$：由于$D}2\phi(x_0')$是正定矩阵（$\phi$是凸函数），这个Hessian矩阵是半负定矩阵减去正定矩阵，结果为负定矩阵。对于奇数维$n$，负定矩阵的行列式为负，违反了次解条件$\det(D^2u_\epsilon) \geq 0$，矛盾。
3. 情况2：$\Omega$的维度$n$为偶数
   偶数维的非退化半负定矩阵行列式为正，这不会直接与次解条件矛盾，但我们可以利用Monge-Ampere算子的线性化：围绕$u$的线性化算子为$L[v] = \text{tr}(\text{cof}(D^2u) D^{2v)$，其中$\text{cof}(D}2u)$是$D^{2u$的余子式矩阵。对于可逆的半负定$D}2u$，$\text{cof}(D^2u)$也是半负定的，因此$-L$是线性椭圆算子。
   在最大值点$x_0$，$L[u] = n\det(D^2u) \geq 0$，即$-L[u] \leq 0$。根据椭圆算子的极值原理，局部最大值点处$-L[u] \geq 0$，这就迫使$-L[u] = 0$，即$\det(D^2u(x_0)) = 0$（Hessian矩阵退化）。之后我们可以用和情况1相同的扰动论证，最终导出矛盾。

两种情况都说明初始假设（$u$在$\Omega$内某点为正）不成立，因此$\Omega$内$u \leq 0$恒成立。

Hope this helps clarify things for you!

备注：内容来源于stack exchange，提问作者Luca.b