BigQuery矩阵分解模型训练报错：Per-customer shuffle size limit exceeded问题咨询及解决方案求助

首先，咱们先搞懂这个错误的核心含义：BigQuery在训练矩阵分解模型时，需要对数据进行**shuffle（数据重排）**来计算用户和物品的隐因子，但你的任务中生成的shuffle数据量超过了单用户的资源限制。虽然官方标注的单用户评分上限是1亿条，但实际训练时，shuffle的需求不仅和总数据行数有关，还和你设置的模型参数、数据稀疏度直接挂钩——你的4500万行稀疏矩阵加上num_factors=200这样的高参数，刚好触发了这个限制。

接下来是具体的修复方案，按优先级排序：

1. 缩小模型的隐因子数量 #

你当前设置的num_factors=200是比较大的数值，隐因子越多，模型训练过程中需要交换的中间数据量就越大，直接推高了shuffle的负载。建议先把这个值降到50-100试试，示例代码如下：

create or replace model `my_model` options(
 model_type="matrix_factorization",
 feedback_type="implicit",
 user_col="user_id",
 item_col="professional_id",
 rating_col="contact_force_scaled",
 l2_reg=30,
 num_factors=80,  -- 调整隐因子数量
 max_iterations=5,
 min_rel_progress=0.01,
 data_split_method="no_split"
) as (
 select * from `my_dataset_scaled`
);

这个调整对模型效果的影响通常不会特别大，但能显著降低shuffle压力。

2. 过滤低交互的用户/物品 #

你的数据集是稀疏矩阵，很多用户可能只有1-2条交互记录，很多物品可能只被少数用户访问过——这些数据对模型的贡献极小，但会增加shuffle的无效负载。可以在训练查询中过滤掉这些低交互的条目：

create or replace model `my_model` options(
 -- 保持原有参数不变，仅修改训练数据查询
) as (
 select * from `my_dataset_scaled`
 -- 保留至少有5次交互的用户
 where user_id in (
   select user_id from `my_dataset_scaled`
   group by user_id having count(*) >= 5
 )
 -- 保留至少被10个用户交互过的物品
 and professional_id in (
   select professional_id from `my_dataset_scaled`
   group by professional_id having count(*) >= 10
 )
);

你可以根据自己的数据分布调整阈值（比如把5改成3，10改成5），核心是去掉那些边缘的稀疏数据点。

3. 调整训练迭代参数 #

你当前设置的max_iterations=5不算多，但可以尝试进一步减少到3；或者增大min_rel_progress（比如从0.01改成0.05），让模型在迭代提升不明显时提前停止，减少不必要的shuffle次数。

关于数据集是否超出适用范围 #

你的4500万行数据并没有超出BigQuery矩阵分解的官方限制（单用户评分≤1亿条），而且矩阵分解本身就是为稀疏的用户-物品交互场景设计的，所以你的数据集结构是完全适配的。当前的问题只是训练过程中的资源负载超标，通过上面的参数调整和数据过滤就能解决。

内容的提问来源于stack exchange，提问作者Cyril Duchon-Doris