独立随机符号向量同分布及独立性相关技术咨询

首先先澄清一个关键误解：这里的ε₁ε₂不是叉积，是随机变量的普通乘积。题目中的ε₁, ε₂,…, εₙ是独立的随机符号（通常指Rademacher变量，即P(ε_i=1)=P(ε_i=-1)=1/2；也可以是更一般的对称独立符号变量），所以这里的乘积是逐元素的数值乘积，和向量叉积完全无关。

一、为什么向量(ε₁, ε₂, …, εₙ₋₁)与(ε₁ε₂, ε₂ε₃, …, εₙ₋₁εₙ)同分布？ #

两个随机向量同分布的核心是：对于任意一组符号取值(a₁,a₂,…,aₙ₋₁)，它们取该值的概率完全相等。

• 对于原向量(ε₁, ε₂, …, εₙ₋₁)，取(a₁,a₂,…,aₙ₋₁)的概率是：
  P(ε₁=a₁)P(ε₂=a₂)...P(εₙ₋₁=aₙ₋₁)
  因为所有ε_i独立同分布，这个概率等于[P(ε=1)]^k * [P(ε=-1)]^{(n-1)-k}，其中k是a_i中1的个数。

• 对于乘积向量(ε₁ε₂, ε₂ε₃, …, εₙ₋₁εₙ)，假设它取(b₁,b₂,…,bₙ₋₁)，我们可以通过解变量关系得到：
  ε₂ = ε₁b₁, ε₃ = ε₂b₂ = ε₁b₁b₂, ..., εₙ = εₙ₋₁bₙ₋₁
  由于所有ε_i独立，这个事件的概率等于：
  P(ε₁任意) * P(ε₂=ε₁b₁) * P(ε₃=ε₁b₁b₂) * ... * P(εₙ=εₙ₋₁bₙ₋₁)
  而因为ε是对称符号变量，不管ε_{k-1}取什么值，P(ε_k=ε_{k-1}b_{k-1}) = P(ε_k=c)（c是任意符号），也就是等于边缘概率P(ε=1)或P(ε=-1)，最终计算下来，这个概率和原向量取对应值的概率完全一致。

所以两个向量的分布完全相同。

二、ε₁ε₂, ε₂ε₃, ε₃ε₁是否独立？ #

答案是不独立，我们用Rademacher变量的例子来验证：

1. 首先计算联合概率：P(ε₁ε₂=1, ε₂ε₃=1, ε₃ε₁=1)
   这个事件等价于ε₁=ε₂=ε₃（要么全为1，要么全为-1），概率是P(全1) + P(全-1) = 1/8 + 1/8 = 1/2。

2. 如果三个变量独立，那么联合概率应该等于各自边缘概率的乘积：
   P(ε₁ε₂=1) * P(ε₂ε₃=1) * P(ε₃ε₁=1) = (1/2)*(1/2)*(1/2) = 1/8

显然1/2 ≠ 1/8，说明它们不独立。更直观的原因是：这三个变量的乘积恒为1——(ε₁ε₂)(ε₂ε₃)(ε₃ε₁) = ε₁²ε₂²ε₃² = 1（因为符号变量的平方是1），这意味着知道其中两个变量的值，第三个变量的值就被完全确定了，必然存在依赖关系。

三、为什么相邻乘积（ε₁ε₂, ε₂ε₃, …, εₙ₋₁εₙ）的独立性不明显？ #

直觉上，相邻乘积共享一个随机变量（比如ε₁ε₂和ε₂ε₃共享ε₂），很容易觉得它们之间有依赖，但实际上因为符号变量的对称性，这种“共享”带来的依赖被抵消了：

比如，考虑条件概率P(ε₂ε₃=1 | ε₁ε₂=1)：

• 已知ε₁ε₂=1，说明ε₁=ε₂，但ε₃独立于ε₂，不管ε₂是1还是-1，P(ε₂ε₃=1) = P(ε₃=ε₂) = 1/2，和边缘概率P(ε₂ε₃=1)=1/2完全相等。

这就满足了独立的定义：条件概率等于边缘概率。对于任意两个不重叠的相邻乘积（比如ε₁ε₂和ε₃ε₄），独立性更明显；而对于相邻的乘积（比如ε₁ε₂和ε₂ε₃），因为对称性的存在，依然保持独立。这种反直觉的结果就是为什么独立性看起来不明显的原因。

内容的提问来源于stack exchange，提问作者james black