基于Python与Scikit-learn的MMD实现及相关技术问题问询

我使用Jindong Wang的MMD实现代码，参考Scikit-learn生成人工时间序列，旨在利用MMD（最大均值差异）区分时间序列的不同特征。测试用例为简单的A*sin(wx+phi)，将各数据集与基准sin(x)对比，预期频率或振幅越大，MMD距离越显著，现针对三个问题解答如下：

问题1：如何估计MMD距离的不确定性？ #

• Bootstrap重采样法：对两组样本分别进行有放回重采样，每次计算MMD值，重复数百次后得到MMD的分布，用分位数（如95%置信区间）来量化不确定性。这是最常用的非参数方法，无需假设数据分布。
• 渐近正态近似：当样本量足够大时，MMD估计量渐近服从正态分布。可通过计算MMD的方差估计（基于核函数导数或样本协方差）构建置信区间，但要求核函数满足正则条件，且样本量足够大。
• Permutation检验：将两组样本混合后随机分配为新的两组，计算MMD并重复多次得到零分布，通过原MMD在零分布中的位置，间接评估其显著性与不确定性。

问题2：如何优化内存与数组，处理10000+时间点的x-y长序列？ #

• 核矩阵分块计算：避免一次性生成完整的N×N核矩阵（N为样本数），分批次计算核矩阵块，完成后立即用于MMD计算并释放内存，累加对应项结果。
• 在线MMD计算：采用在线更新的MMD估计方法，无需存储所有样本，每次仅处理一个样本并更新累加统计量，适合超大规模序列场景。
• 时间序列降维：对原始序列做降维处理，比如用PCA提取主成分，或提取统计特征（均值、方差、自相关系数、频谱特征等）替代原始序列，降低样本特征维度，减少核矩阵内存占用。
• 稀疏核函数与内存优化：选择稀疏核（如线性核、拉普拉斯核的稀疏近似），或对核矩阵进行稀疏化处理，仅保留非零重要元素；精度允许时用np.float32替代np.float64存储数组，减少一半内存，同时避免不必要的中间数组，采用原地操作减少内存开销。

问题3：为何该方法能区分振幅差异，却无法区分相位或频率差异？是否与数据采样频率有关？ #

• 核函数选择是核心原因：默认使用的高斯核（RBF核）基于样本点欧氏距离计算相似性，振幅差异会直接增大样本点的欧氏距离，因此MMD能捕捉；但相位偏移或频率变化的序列，其均值、方差等一阶/二阶统计量与基准序列一致，高斯核难以识别这类分布差异。
• 采样频率的影响：若采样频率过低，不同频率的序列采样后可能呈现相似的离散点分布，导致MMD无法区分；若采样频率足够高，频率差异本质是频谱分布不同，此时需使用基于频谱的核函数（如小波核、傅里叶核），或先将序列转换到频域提取特征再计算MMD，才能捕捉频率差异。
• 相位差异的特殊性：纯相位偏移属于分布平移，高斯核MMD对分布平移不敏感（欧氏距离的统计分布不变），需使用对平移敏感的核函数（如平移不变核变种），或结合动态时间规整（DTW）特征计算MMD，才能区分相位差异。

内容的提问来源于stack exchange，提问作者Cecilia