You need to enable JavaScript to run this app.
最新活动
大模型
产品
解决方案
定价
生态与合作
支持与服务
开发者
了解我们

高斯核相关不等式证明与导数估计推导的技术咨询

高斯核相关不等式证明与导数估计推导的技术咨询

问题陈述

给定高斯核:
$$p(u,x)=\frac{1}{(4\pi u){q/2}}e{-|x|^2/(4u)},u>0,x \in \mathbb{R}^q.$$

需要完成两个任务:

  1. 基础不等式证明:对于 $r\geq 0,c>1$,存在依赖于 $r,c$ 的常数 $C>0$,使得
    $$\forall x \in \mathbb{R}q,u>0,\frac{|x|{2r}}{u^r}p(u,x) \leq Cp(cu,x).$$
  2. 导数估计推导:对于 $n \in \mathbb{N}^q,k \in \mathbb{N},$ 存在常数 $C'>0$ 满足
    $$|\partial_xn\partial_uk p(u,x)| \leq C' u^{-|n|/2-k}p(cu,x)$$
    其中 $\partialn_x=\partial_{x_1}{n_1}\partial_{x_2}{n_2}\dots\partial_{x_q}{n_q}$(为简化分析,可先取 $q=1$)。

已尝试思路

你已经给出了一个关键不等式关系:
$$\frac{|x|^{2}}{4ur}(1-\frac{1}{c}) \leq e{\frac{|x|2}{4ur}(1-1/c)}$$
并选取了常数 $C=c^{q/2} \frac{4r(r+1)r}{(1-1/c)^r}$,我们先把这个基础不等式的证明补完整,再推导导数估计。


一、基础不等式的完整证明

咱们把要证的不等式两边展开对比,核心是把指数项和多项式项的关系理清楚:

左边展开:
$$\frac{|x|{2r}}{ur}p(u,x) = \frac{|x|{2r}}{ur} \cdot \frac{1}{(4\pi u){q/2}}e{-|x|^2/(4u)}$$

右边展开:
$$Cp(cu,x) = C \cdot \frac{1}{(4\pi cu){q/2}}e{-|x|^2/(4cu)}$$

将两边做比值化简,等价于证明:
$$c^{q/2} \cdot \frac{|x|{2r}}{ur} \leq C e{\frac{|x|2}{4u}(1-\frac{1}{c})}$$

令 $t = \frac{|x|^2}{4u}$(显然 $t \geq 0$),则 $\frac{|x|{2r}}{ur} = (4t)^r$,代入上式后问题转化为:找到常数 $C$,使得对所有 $t \geq 0$,有
$$c^{q/2} \cdot 4^r t^r \leq C e^{t(1-\frac{1}{c})}$$

这里利用指数函数对多项式的控制性质:对任意 $s \geq 0$,有 $s \leq e^{s-1}$(这个不等式可以通过求导验证函数 $f(s)=e^{s-1}-s$ 的最小值为0)。令 $s = \frac{t(1-1/c)}{r}$,则:
$$\frac{t(1-1/c)}{r} \leq e^{\frac{t(1-1/c)}{r}-1}$$

整理后可得:
$$t^r \leq \frac{r^r er}{(1-1/c)r} e^{t(1-1/c)}$$

把这个结果代回之前的式子,就能得到:
$$C = c^{q/2} \cdot \frac{4^r r^r er}{(1-1/c)r}$$

你选取的 $C=c^{q/2} \frac{4r(r+1)r}{(1-1/c)^r}$ 其实也是可行的,因为 $(r+1)^r$ 是 $r^r e^r$ 的一个上界(利用 $(1+1/r)^r < e$),本质都是找到一个能控制多项式项的指数函数上界,从而确定常数C。


二、导数估计的推导(以q=1为例)

我们用双重归纳法来证明,对任意 $n,k \in \mathbb{N}$,存在常数 $C'$ 满足估计式。先看q=1的情况,此时高斯核为:
$$p(u,x) = \frac{1}{\sqrt{4\pi u}} e{-x2/(4u)}$$

基例:n=0, k=0

此时左边就是 $p(u,x)$,根据基础不等式(r=0时,$C=c^{1/2}$),有 $p(u,x) \leq c^{1/2} p(cu,x)$,取 $C'=c^{1/2}$ 即可满足,基例成立。

归纳步骤1:假设对 $(n,k)$ 成立,证明 $(n+1,k)$ 成立

先看x的一阶导数:$\partial_x p(u,x) = -\frac{x}{2u} p(u,x)$,更高阶的x导数都是形如 $\sum_{m=0}^{\lfloor n/2 \rfloor} a_m \frac{x{n-2m}}{u{n/2}} p(u,x)$ 的线性组合($a_m$ 为常数)。

对 $\partial_x^n \partial_u^k p(u,x)$ 求x导数后,得到的项都是 $\frac{xs}{ut} p(u,x)$ 的形式,其中 $t = \frac{n+1}{2} +k$,$s$ 是整数。根据基础不等式:

  • 若s为偶数,令r=s/2,则 $\frac{xs}{u{s/2}} p(u,x) \leq C p(cu,x)$,因此 $\frac{xs}{ut} p(u,x) = \frac{1}{u^{t - s/2}} \cdot \frac{xs}{u{s/2}} p(u,x) \leq \frac{C}{u^{\frac{n+1}{2}+k - s/2}} p(cu,x)$,而 $t - s/2 = \frac{n+1}{2}+k - s/2$,结合s的取值(s ≤n+1),这个指数正好匹配目标式的 $u^{-\frac{n+1}{2}-k}$。
  • 若s为奇数,令s=2m+1,则 $|x|^s p(u,x) = |x| \cdot |x|^{2m} p(u,x)$,先对r=1/2用基础不等式得 $|x| p(u,x) \leq C_1 u^{1/2} p(cu,x)$,再对r=m用基础不等式得 $|x|^{2m} p(u,x) \leq C_2 u^m p(cu,x)$,相乘后即可得到 $|x|^s p(u,x) \leq C_1 C_2 u^{m+1/2} p(cu,x)$,代入后也能匹配目标式的指数。

因此存在新的常数 $C''$,使得 $|\partial_x^{n+1} \partial_u^k p(u,x)| \leq C'' u^{-\frac{n+1}{2}-k} p(cu,x)$,归纳成立。

归纳步骤2:假设对 $(n,k)$ 成立,证明 $(n,k+1)$ 成立

先看u的一阶导数:$\partial_u p(u,x) = \left( -\frac{1}{2u} + \frac{x2}{4u2} \right) p(u,x)$,更高阶的u导数都是形如 $\sum_{m=0}^k b_m \frac{x{2m}}{u{k+m}} p(u,x)$ 的线性组合($b_m$ 为常数)。

对 $\partial_x^n \partial_u^k p(u,x)$ 求u导数后,得到的项要么是 $\frac{xs}{u{t+1}} p(u,x)$,要么是 $\frac{x{s+2}}{u{t+2}} p(u,x)$(t为原有的u指数)。利用基础不等式,$\frac{x{2m}}{um} p(u,x) \leq C p(cu,x)$,因此这些项都可以被 $\frac{C}{u^{\frac{n}{2}+k+1}} p(cu,x)$ 控制,正好匹配目标式的指数。

因此存在新的常数 $C'''$,使得 $|\partial_x^{n} \partial_u^{k+1} p(u,x)| \leq C''' u^{-\frac{n}{2}-(k+1)} p(cu,x)$,归纳成立。

推广到q维情况

q维高斯核是各一维高斯核的乘积:$p(u,x) = \prod_{i=1}^q p(u,x_i)$,其中 $p(u,x_i)$ 是关于 $x_i$ 的一维高斯核。偏导数 $\partial_x^n p(u,x) = \prod_{i=1}^q \partial_{x_i}^{n_i} p(u,x_i)$,每个一维导数都满足估计式,将各一维的常数相乘即可得到q维的常数 $C'$,从而推广到一般情况。


备注:内容来源于stack exchange,提问作者mathex

火山引擎 最新活动