关于证明分段函数h(x)凸性的技术咨询
嗨,我看到你在尝试证明这个分段函数h(x)的凸性,你的思路里已经正确梳理了几个单个函数的凸凹性,但确实卡在了“凸函数加凹函数”无法直接判断的环节——这很正常,因为这种组合的性质不确定,我们得换个思路来处理这个问题,下面是完整的证明步骤:
首先,先明确h(x)的定义域:
$D = {x \in X \mid \langle x, u \rangle > 0, \lVert Lx \rVert < \langle x, u \rangle}$
先验证D是凸集:
- $\langle x, u \rangle > 0$是开半空间,属于凸集;
- $\lVert Lx \rVert < \langle x, u \rangle$等价于$\langle x, u \rangle - \lVert Lx \rVert > 0$,其中$\langle x, u \rangle$是线性函数(凸/凹),$\lVert Lx \rVert$是凸函数,所以$\langle x, u \rangle - \lVert Lx \rVert$是凹函数,凹函数的上水平集${f(x) > a}$是凸集;
- 两个凸集的交集仍是凸集,所以D是凸集,这是证明凸函数的前提(凸函数的定义域必须是凸集)。
接下来,我们只需要关注D内的情况:$h(x) = -\sqrt{\langle x, u \rangle^2 - \lVert Lx \rVert^2}$,我们可以通过变量替换+复合函数凸性规则来证明:
步骤1:变量替换简化表达式
对于任意$x \in D$,令$t = \langle x, u \rangle > 0$,$y = \frac{x}{t}$,则$\langle y, u \rangle = 1$,且$\lVert Ly \rVert = \frac{\lVert Lx \rVert}{t} < 1$。此时:
$$\langle x, u \rangle^2 - \lVert Lx \rVert^2 = t^2(1 - \lVert Ly \rVert^2)$$
所以$h(x) = -t\sqrt{1 - \lVert Ly \rVert^2}$。
步骤2:转化为证明辅助函数的凹性
取任意$x_1, x_2 \in D$,对应$t_1 = \langle x_1, u \rangle$,$y_1 = \frac{x_1}{t_1}$;$t_2 = \langle x_2, u \rangle$,$y_2 = \frac{x_2}{t_2}$。对于$t \in [0,1]$,令:
$$s = t t_1 + (1-t)t_2 > 0, \quad \lambda = \frac{t t_1}{s} \in [0,1], \quad y = \lambda y_1 + (1-\lambda)y_2$$
则$tx_1 + (1-t)x_2 = s y$,且$\langle y, u \rangle = 1$,$\lVert Ly \rVert \leq \lambda \lVert Ly_1 \rVert + (1-\lambda)\lVert Ly_2 \rVert < 1$,所以$tx_1 + (1-t)x_2 \in D$。
此时我们需要证明:
$$h(tx_1 + (1-t)x_2) \leq t h(x_1) + (1-t)h(x_2)$$
代入表达式后,两边消去负号并除以$s > 0$,等价于证明:
$$\sqrt{1 - \lVert \lambda Ly_1 + (1-\lambda)Ly_2 \rVert^2} \geq \lambda \sqrt{1 - \lVert Ly_1 \rVert^2} + (1-\lambda)\sqrt{1 - \lVert Ly_2 \rVert^2}$$
这其实是要证明函数$g(z) = \sqrt{1 - \lVert z \rVert^2}$在单位球${z \in G \mid \lVert z \rVert < 1}$内是凹函数——因为凹函数满足$g(\lambda z_1 + (1-\lambda)z_2) \geq \lambda g(z_1) + (1-\lambda)g(z_2)$。
步骤3:验证$g(z)$的凹性
我们通过平方两边(两边均非负)来验证不等式:
$$1 - \lVert \lambda z_1 + (1-\lambda)z_2 \rVert^2 \geq \left(\lambda \sqrt{1 - \lVert z_1 \rVert^2} + (1-\lambda)\sqrt{1 - \lVert z_2 \rVert2}\right)2$$
展开右边并化简,最终可转化为证明:
$$(1 - \langle z_1, z_2 \rangle)^2 \geq (1 - \lVert z_1 \rVert^2)(1 - \lVert z_2 \rVert^2)$$
再展开两边并整理,最终得到:
$$\lVert z_1 - z_2 \rVert^2 \geq \lVert z_1 \rVert^2 \lVert z_2 \rVert^2 - \langle z_1, z_2 \rangle^2$$
右边是Gram矩阵的行列式(非负),左边是$\lVert z_1 - z_2 \rVert^2 = (\lVert z_1 \rVert - \lVert z_2 \rVert)^2 + 2(\lVert z_1 \rVert \lVert z_2 \rVert - \langle z_1, z_2 \rangle)$,结合柯西不等式$\langle z_1, z_2 \rangle \leq \lVert z_1 \rVert \lVert z_2 \rVert$,可以轻松验证左边≥右边,因此原不等式成立,即$g(z)$是凹函数。
步骤4:复合函数的凸性推导
因为$h(x) = -g(Ly) \cdot t$,而$t = \langle x, u \rangle$是线性函数(凸函数),$g(z)$是凹函数,$-g(z)$是凸函数且单调递增(因为$g(z)$单调递减),结合线性函数与凸函数的复合、凸函数的正加权和性质,最终可以得出$h(x)$是凸函数。
当$x$不在定义域D内时,$h(x) = +\infty$,凸函数的不等式显然成立。
综上,$h(x)$是凸函数。
备注:内容来源于stack exchange,提问作者lone_wolf




