Kolmogorov距离下原分布与逆分布的距离关系及实例问询

首先直接给结论：对于支撑在[0,1]上的连续严格单调递增CDF（分布函数）F和G，它们的Kolmogorov距离与逆分布的Kolmogorov距离不存在固定的等价关系——我们可以构造出逆分布间的距离远小于原分布间距离的实例，同时也存在两者距离相等的情况。

一、核心关系推导 #

设原分布的Kolmogorov距离为：
$$d = \operatorname{dist}(F,G) = \sup_{x\in[0,1]}|F(x)-G(x)|$$

对于任意$y\in[0,1]$，令$x=F^{-1}(y)$（即F在x处的取值为y），则$G(x)$必然落在$[y-d, y+d]$区间内。再考虑逆分布的取值$G^{{-1}(y)$，记$x'=G}{-1}(y)$，则$G(x')=y$，因此$F(x')$也落在$[y-d, y+d]$内，即$|F(x') - F(x)| \leq d$。

如果F是可微的，且其导数在[0,1]上有正下界$c=\inf_{x\in[0,1]}F'(x)>0$，根据中值定理，存在$\xi$介于x和x'之间，使得：
$$|F(x') - F(x)| = F'(\xi)|x'-x| \geq c|x'-x|$$

由此可得：
$$|G^{-1}(y)-F{-1}(y)| = |x'-x| \leq \frac{d}{c}$$

这说明：当F的导数下界c足够大时，逆分布的距离可以被压缩到原距离的1/c倍，只要c足够大，逆距离就能远小于原距离。

二、实例：逆距离远小于原距离 #

我们构造具体的分布来验证：

构造F(x)

取k为一个极大的正整数（比如k=1000），定义：
$$F(x) = 1 - (1-x)^k$$
这个CDF满足：

• 支撑集为[0,1]，F(0)=0，F(1)=1；
• 连续且严格单调递增；
• 导数$F'(x)=k(1-x)^{k-1}$，在x接近0时导数约等于k（非常大），在x接近1时导数趋近于0。

构造G(x)

取$\varepsilon=0.5$，定义：
$$G(x) = F(x) + \varepsilon(1-x)^k$$
验证G是合法的CDF：

• G(0)=0 + 0.5*1=0.5 ∈ (0,1)，G(1)=1 + 0=1；
• 导数$G'(x)=k(1-x)^{{k-1}(1-\varepsilon)=0.5k(1-x)}{k-1}>0$，严格单调递增；
• 连续，因为F和$(1-x)^k$都是连续函数。

计算原分布的Kolmogorov距离

$$\operatorname{dist}(F,G) = \sup_{x\in[0,1]}|F(x)-G(x)| = \sup_{x\in[0,1]}0.5(1-x)^k = 0.5$$
最大值在x=0时取得，为0.5。

计算逆分布的Kolmogorov距离

• F的逆分布：$F^{-1}(y) = 1 - (1-y)^{1/k}$（解$F(x)=y$可得）；
• G的逆分布：解$G(x)=y$，得$x=1 - \left( \frac{1-y}{1-\varepsilon} \right)^{1/k}=1 - \left( \frac{1-y}{0.5} \right)^{1/k}$。

两者的差为：
$$|F^{-1}(y)-G{-1}(y)| = (1-y)^{1/k} \left( \left( \frac{1}{0.5} \right)^{1/k} - 1 \right)$$

当k=1000时，$\left(2\right)^{1/1000}=e{\frac{\ln2}{1000}}≈1+\frac{0.693}{1000}≈1.000693$，因此：
$$|F^{-1}(y)-G{-1}(y)| \leq 1*(1.000693-1)=0.000693$$

显然，逆分布的距离（约0.0007）远小于原分布的距离（0.5），完全符合要求。

内容的提问来源于stack exchange，提问作者Andeanlll