You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

如何在BigQuery中实现Upsampling(上采样)?

如何在BigQuery中实现Upsampling(上采样)?

当然可以在BigQuery里实现这种上采样需求!针对你提到的场景——把所有类别都扩充到和类别A一样的100条记录,我给你分享两种实用的方法,重复行完全是允许的哦。

方法一:基于聚合表直接生成目标行数

如果你手里的表已经是按category聚合后的结果(就像你给出的示例表那样),我们可以先获取类别A的count作为目标数,然后给每个类别生成对应数量的重复行。代码如下:

-- 第一步:获取上采样的目标数量(类别A的count)
WITH target_sample_size AS (
  SELECT count AS target_count
  FROM `your_project.your_dataset.your_table`
  WHERE category = 'A'
)
-- 第二步:为每个类别生成目标数量的行
SELECT
  original.category
  -- 如果表中有其他字段,直接在这里添加即可,比如 original.other_column
FROM `your_project.your_dataset.your_table` original
CROSS JOIN target_sample_size
-- 生成从1到目标数的数组,展开后得到重复行
CROSS JOIN UNNEST(GENERATE_ARRAY(1, target_sample_size.target_count)) AS row_index

简单解释下:这个方法通过GENERATE_ARRAY生成一个从1到100的数组,再用UNNEST把数组拆成单独的行,这样每个category就会被重复100次。最终聚合后,每个类别的count都会是100,完全符合你的要求。

方法二:基于原始明细数据上采样

要是你手里的原始数据是每条记录对应一个样本(而非聚合后的统计结果),我们可以先统计每个类别的现有数量,再计算需要重复的次数,把每个类别的样本扩充到100条。代码示例:

WITH category_counts AS (
  -- 先统计每个类别的现有记录数
  SELECT
    category,
    COUNT(*) AS current_count
  FROM `your_project.your_dataset.raw_data_table`
  GROUP BY category
),
target_size AS (
  -- 获取目标采样数(类别A的数量)
  SELECT current_count AS target_count
  FROM category_counts
  WHERE category = 'A'
),
sample_details AS (
  SELECT
    cc.category,
    cc.current_count,
    ts.target_count,
    -- 计算完整重复的次数
    DIV(ts.target_count, cc.current_count) AS full_repeats,
    -- 计算除完整重复外,还需额外补充的行数
    MOD(ts.target_count, cc.current_count) AS extra_rows
  FROM category_counts cc
  CROSS JOIN target_size ts
)
-- 组合完整重复的行和额外补充的行
SELECT category FROM (
  -- 先取完整重复的行
  SELECT
    rd.category
  FROM `your_project.your_dataset.raw_data_table` rd
  JOIN sample_details sd ON rd.category = sd.category
  CROSS JOIN UNNEST(GENERATE_ARRAY(1, sd.full_repeats)) AS repeat_num
  UNION ALL
  -- 再随机选取需要额外补充的行,避免数据模式过于固定
  SELECT
    rd.category
  FROM (
    SELECT
      rd.category,
      ROW_NUMBER() OVER(PARTITION BY rd.category ORDER BY RAND()) AS rn
    FROM `your_project.your_dataset.raw_data_table` rd
    JOIN sample_details sd ON rd.category = sd.category
  )
  WHERE rn <= extra_rows
)

这个方法更贴近真实的上采样场景:先把现有样本重复N次,再随机挑选部分样本补充到目标数量,能尽量保证数据的随机性,不会出现过于规律的重复模式。

备注:内容来源于stack exchange,提问作者justcode

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.04.20 10:30:28