如何证明二元函数存在最值？以$f(x,y)=\frac{1-2xy}{x^2+y^2}$为例

首先，先聊聊二元函数存在最大值/最小值的一般判断逻辑：

• 如果函数在有界闭区域上连续，根据多元函数的极值定理，必然存在最大值和最小值，这时候只需要找内部临界点和边界上的极值点比较即可；
• 如果定义域是无界区域（比如本题的$\mathbb{R}^2\setminus{(0,0)}$），则需要结合两部分分析：
  1. 函数在定义域内部的临界点情况；
  2. 函数在定义域“边界”（包括无穷远处、趋近于奇点的极限行为）的取值趋势。

针对函数$f(x,y)=\frac{1-2xy}{x^2+y2}$的具体分析 #

你提到用梯度$\nabla f=0$求解临界点计算复杂，确实，直接求偏导展开会很繁琐，这里推荐用极坐标转换或者参数代换的方法简化分析，比直接求梯度高效很多：

方法1：极坐标转换 #

令$x=r\cos\theta$，$y=r\sin\theta$（$r>0$，$\theta\in[0,2\pi)$），代入函数得：
$$
f(r,\theta)=\frac{1-2r^{2\cos\theta\sin\theta}{r}2}=\frac{1}{r^2}-\sin2\theta
$$
现在拆分来看：

• 当$r\to0^{+$（趋近于原点）时，$\frac{1}{r}2}\to+\infty$，因此$f(r,\theta)\to+\infty$，这说明函数可以取到任意大的值，不存在最大值；
• 当$r\to+\infty$（趋近于无穷远）时，$\frac{1}{r^2}\to0$，此时$f(r,\theta)\to-\sin2\theta$，而$\sin2\theta$的取值范围是$[-1,1]$，所以$f(r,\theta)$趋近于$[-1,1]$内的任意值。

接下来验证是否存在最小值：
假设存在$(x,y)\neq(0,0)$使得$f(x,y)=-1$，代入函数得：
$$
\frac{1-2xy}{x^2+y2}=-1 \implies x^2+y2+1-2xy=0 \implies (x-y)^2+1=0
$$
显然，实数范围内没有满足该等式的$(x,y)$，因此$-1$取不到。但我们可以让函数值无限接近$-1$：比如取$x=y=t$，当$t\to+\infty$时，$f(t,t)=\frac{1-2t^2}{2t2}=\frac{1}{2t^2}-1\to-1$，说明函数的下确界是$-1$，但无法达到，因此不存在最小值。

方法2：二次方程判别式法 #

固定函数值为$k$，即$\frac{1-2xy}{x^2+y2}=k$，整理得关于$x,y$的二次方程：
$$
kx^2+ky2+2xy-1=0
$$
该方程存在非零实解$(x,y)$的条件是：将其视为关于$x$的一元二次方程$kx^2+2yx+(ky2-1)=0$，判别式$\Delta\geq0$：
$$
\Delta=(2y)^2-4k(ky2-1)=4\left[y^2(1-k2)+k\right]\geq0
$$
分情况讨论：

• 当$k>1$时，$1-k^{2<0$，此时$\Delta\geq0$等价于$y}2\leq\frac{k}{k^2-1}$，显然存在$y$满足该不等式（比如$y=0$时，$x=\pm\frac{1}{\sqrt{k}}$），说明任意大于1的$k$都能取到，函数无最大值；
• 当$k=-1$时，方程变为$-(x-y)^2-1=0$，无实解，说明$-1$取不到；
• 当$k<-1$时，$\Delta\geq0$等价于$y^{2\leq-\frac{k}{k}2-1}$，右边为负数，而$y^2\geq0$，无解，说明函数值不可能小于$-1$；
• 当$-1<k\leq1$时，方程均存在解，说明函数值可以覆盖$(-1,1]$内的所有值。

综上，函数$f(x,y)=\frac{1-2xy}{x^2+y2}$在$(x,y)\neq(0,0)$时，既不存在最大值，也不存在最小值。

内容的提问来源于stack exchange，提问作者Gjert