请求协助证明二元函数f(x,y)=x²exp(y)约束集的非凸性

先澄清一个关键点：你提到“若能证明$f(x,y)$为凹函数，就能理解约束集为何是非凸集”——这个逻辑是对的（凹函数的下水平集是非凸集），但实际上$f(x,y)$并不是凹函数，不过我们可以通过Hessian矩阵的二次型分析明确这一点，再直接推导约束集的非凸性。

一、验证$f(x,y)$的凹性（结论：非凹） #

对于二阶可微函数，凹性的充要条件是其Hessian矩阵在定义域内半负定：即对任意实向量$\textbf{v}=[v_1, v_2]^{T$，都有$\textbf{v}}T H(x,y) \textbf{v} \leq 0$，其中$H(x,y)$是函数的Hessian矩阵。

你已经求出Hessian矩阵：
$$H(x,y)=\begin{bmatrix}2e^y & 2xe^y \ 2xe^y & x^2ey\end{bmatrix}$$

我们计算二次型$\textbf{v}^T H(x,y) \textbf{v}$：
$$
\begin{align*}
\textbf{v}^T H \textbf{v} &= v_1(2e^y v_1 + 2xe^y v_2) + v_2(2xe^y v_1 + x^2ey v_2) \
&= 2e^y v_1^2 + 4xe^y v_1v_2 + x^2ey v_2^2 \
&= e^y\left(2v_12 + 4xv_1v_2 + x^2v_22\right)
\end{align*}
$$

由于$e^{y>0$（$y>0$），二次型的符号完全由括号内的二次式$Q(v_1,v_2)=2v_1}2 + 4xv_1v_2 + x^2v_22$决定。

现在找反例：取$\textbf{v}=[1, 0]^T$，代入得：
$$Q(1,0)=21^2 + 0 + 0=2>0$$
因此$\textbf{v}^T H \textbf{v}=e^y2>0$，这说明Hessian矩阵不是半负定的，所以$f(x,y)$不满足凹函数的条件。

进一步观察，若取$\textbf{v}=[-x, 1]^T$，代入得：
$$Q(-x,1)=2x^2 + 4x*(-x)*1 + x^2*1=-x2<0$$
这说明Hessian矩阵是不定矩阵，因此$f(x,y)$既不是凸函数也不是凹函数。

二、推导约束集的非凸性 #

凸集的定义是：对任意两点$(x_1,y_1),(x_2,y_2)\in S$（$S$为约束集），以及任意$\lambda\in[0,1]$，都有$\lambda(x_1,y_1)+(1-\lambda)(x_2,y_2)\in S$。我们可以通过构造反例来证明约束集非凸：

设$c=e$（任意正值均可，这里取$e$方便计算），选取约束集中的两个点：

1. 点$A(\sqrt{e}, 0)$：$f(\sqrt{e},0)=(\sqrt{e})^2e0=e*1=e\leq c$，满足约束；
2. 点$B(1, 1)$：$f(1,1)=1^2e1=e\leq c$，满足约束。

取$\lambda=0.5$，计算两点的中点$C$：
$$C\left( \frac{\sqrt{e}+1}{2}, \frac{0+1}{2} \right)=\left( \frac{\sqrt{e}+1}{2}, 0.5 \right)$$

计算$f(C)$的值：
$$
\begin{align*}
f(C)&=\left( \frac{\sqrt{e}+1}{2} \right)^2 e^{0.5} \
&=\frac{e + 2\sqrt{e} + 1}{4} * \sqrt{e} \
&=\frac{e\sqrt{e} + 2e + \sqrt{e}}{4}
\end{align*}
$$

代入数值近似计算：$\sqrt{e}\approx1.6487$，$e\approx2.7183$，则：
$$f(C)\approx\frac{2.71831.6487 + 22.7183 + 1.6487}{4}\approx\frac{4.4817 + 5.4366 + 1.6487}{4}\approx2.891$$

而$c=e\approx2.718$，显然$f(C)>c$，说明中点$C$不在约束集$S$中。根据凸集的定义，约束集$S$不是凸集。

内容的提问来源于stack exchange，提问作者Frank Moses