BigQuery线性回归参数相关两点规则的实际含义咨询

规则含义解答 #

首先纠正你的猜测：total cardinality 不是特征数量，指的是所有分类特征的唯一取值数量的总和。比如你用到3个分类特征，分别有10、4000、6500个唯一值，那总基数就是10+4000+6500=10510。

两条规则的具体含义如下：

• 第一条规则：当所有训练特征的总基数之和超过10000时，BigQuery ML会自动采用batch_gradient_descent（批量梯度下降）作为训练优化策略。高基数特征会大幅提升模型的参数总量，批量梯度下降每次基于全量训练样本计算梯度更新参数，收敛过程更稳定，适配大参数规模的训练场景，避免小批量优化出现的收敛震荡问题。
• 第二条规则：当训练样本数量小于总基数的10倍时，BigQuery ML会判定训练存在较高过拟合风险，此时也会切换为batch_gradient_descent策略。小样本+高参数的场景下，批量梯度下降的参数更新步长更平滑，不容易被少量样本的噪声干扰，能有效降低过拟合概率。

内容的提问来源于stack exchange，提问作者Najaf Murtaza