如何用Python度量VAE生成的表格数据的质量？

针对你的表格数据，这里有几个Python中现成的简单指标/方法，能快速评估生成数据和原始数据的相似度：

1. 统计特征对比 #

直接对比两数据集各列的基本统计量（均值、方差、分位数等），直观判断分布是否接近。用pandas的describe()即可实现：

import pandas as pd

# 假设原始数据为df_original，生成数据为df_generated
original_stats = df_original.drop(columns=['index']).describe()
generated_stats = df_generated.drop(columns=['index']).describe()

print("原始数据统计量：")
print(original_stats)
print("\n生成数据统计量：")
print(generated_stats)

2. 分布可视化（直方图/核密度图） #

通过可视化看各列数据的分布重叠程度，是最直观的方式之一，用seaborn或matplotlib实现：

import seaborn as sns
import matplotlib.pyplot as plt

columns_to_check = ['time', 'flag', 'date', 'number']
plt.figure(figsize=(12, 10))

for i, col in enumerate(columns_to_check, 1):
    plt.subplot(2, 2, i)
    sns.kdeplot(df_original[col], label='原始数据', fill=True, alpha=0.5)
    sns.kdeplot(df_generated[col], label='生成数据', fill=True, alpha=0.5)
    plt.title(f'{col} 分布对比')
    plt.legend()

plt.tight_layout()
plt.show()

3. 余弦相似度 #

衡量两个数据集特征矩阵的整体相似性，用sklearn的cosine_similarity：

from sklearn.metrics.pairwise import cosine_similarity

# 去除index列，转为特征矩阵
original_features = df_original.drop(columns=['index']).values
generated_features = df_generated.drop(columns=['index']).values

# 计算平均余弦相似度
similarity = cosine_similarity(original_features, generated_features).mean()
print(f"平均余弦相似度：{similarity:.4f}")

4. 列级均方误差（MSE） #

计算每列原始数据和生成数据的均方误差，数值越小说明该列数据越接近：

from sklearn.metrics import mean_squared_error

# 生成数据量大于原始数据，先随机采样匹配原始数据量
sampled_generated = df_generated.sample(n=len(df_original), random_state=42)

for col in ['time', 'flag', 'date', 'number']:
    mse = mean_squared_error(df_original[col], sampled_generated[col])
    print(f"{col} 列的MSE：{mse:.4f}")

5. 分类列分布检验（卡方检验） #

针对flag这类原本是0/1的分类列，用卡方检验判断生成数据的分类分布是否与原始一致：

from scipy.stats import chi2_contingency
import numpy as np

# 先对生成的flag列做离散化（四舍五入为0或1）
generated_flag_discrete = np.round(df_generated['flag']).astype(int)

# 构建列联表
original_counts = df_original['flag'].value_counts().sort_index()
generated_counts = generated_flag_discrete.value_counts().sort_index()
contingency_table = np.array([original_counts.values, generated_counts.values])

# 执行卡方检验
chi2, p_value, _, _ = chi2_contingency(contingency_table)
print(f"flag列卡方检验p值：{p_value:.4f}")
# 若p值>0.05，说明无法拒绝“两分布一致”的假设，即分类分布相似

内容的提问来源于stack exchange，提问作者Carola