关于次可微性与Fenchel共轭等式等价关系的疑问

嘿，我来帮你拆解这个等价关系背后的逻辑，其实它是次微分定义和Fenchel共轭定义的直接推导，咱们一步步来捋清楚：

首先，先明确你给出的两个核心定义：

• Fenchel共轭：
  $$
  f^*(x) = \sup_x\Big{ \langle x^,x\rangle-f(x)\Big}
  $$
• 次微分：
  $$
  \partial f(x)=\Big{x^\in E: \forall y\in E\quad f(y)\geq f(x)+\langle x^,y-x\rangle\Big}\quad \text{if } x\in \operatorname{dom}(f)
  $$

接下来我们分双向来证明这个等价关系：

1. 正向推导：$x^\in \partial f(x) \implies f^*(x)+f(x)=\langle x^*,x\rangle$ #

根据次微分的定义，对任意的$y\in E$，都有：
$$f(y) \geq f(x) + \langle x^, y - x\rangle$$
把这个不等式整理一下：
$$\langle x^, y\rangle - f(y) \leq \langle x^, x\rangle - f(x)$$
而Fenchel共轭$f^*(x)$的定义是$\sup_y\left{\langle x^, y\rangle - f(y)\right}$，也就是说$f^*(x)$是所有$\langle x^, y\rangle - f(y)$的上确界。上面的不等式说明，$\langle x^, x\rangle - f(x)$是这个集合的一个上界，同时当$y=x$时，$\langle x^, x\rangle - f(x)$刚好是集合中的元素，所以这个上确界就等于$\langle x^, x\rangle - f(x)$，即：
$$f^*(x) = \langle x^, x\rangle - f(x)$$
把式子移项，就得到：
$$f^*(x) + f(x) = \langle x^, x\rangle$$

2. 反向推导：$f^*(x)+f(x)=\langle x^,x\rangle \implies x^*\in \partial f(x)$ #

根据Fenchel共轭的定义，$f^*(x) = \sup_y\left{\langle x^, y\rangle - f(y)\right}$，结合给定的等式，我们可以得到：
$$\langle x^, x\rangle - f(x) = \sup_y\left{\langle x^, y\rangle - f(y)\right}$$
这意味着对于所有的$y\in E$，都满足：
$$\langle x^, y\rangle - f(y) \leq \langle x^, x\rangle - f(x)$$
把这个不等式重新整理一下：
$$f(y) \geq f(x) + \langle x^, y - x\rangle$$
这完全符合次微分$\partial f(x)$的定义，所以$x^ \in \partial f(x)$。

结合你的$\max$函数例子验证 #

咱们用你提到的$f(x)=\max_i x_i$来直观感受一下：
假设$x\in\mathbb{R}^n$的最大值在第$k$个分量，即$f(x)=x_k$，那么$\partial f(x)$是所有满足以下条件的$x^{*\in\mathbb{R}}n$：

• $x^*_i \geq 0$（所有分量非负）
• $x^*_i = 0$，当$x_i < x_k$（只在$x$的最大值点上有非零分量）
• $\sum_{i=1}^n x^*_i = 1$

而$f(x)$的Fenchel共轭是：
$$
f^*(x) =
\begin{cases}
0, & \text{若 } x^ \geq 0 \text{ 且 } \sum_{i=1}^n x^*_i = 1 \
+\infty, & \text{其他情况}
\end{cases}
$$

此时计算$f^*(x) + f(x)$：当$x^\in\partial f(x)$时，$f^*(x)=0$，所以和为$x_k$；而$\langle x^, x\rangle = \sum_{i=1}^n x^_i x_i$，由于$x^{*$只在$x$的最大值点非零，所以这个内积刚好等于$x_k$，完美符合$f}(x^)+f(x)=\langle x^,x\rangle$的等式。

这样拆解下来，是不是就清晰多了？这个等价关系其实是次微分和Fenchel共轭之间的核心联系，本质上是上确界的定义和次微分不等式条件的相互转换。

备注：内容来源于stack exchange，提问作者79999