You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

‘examples’是HuggingFace Transformers默认变量吗?为何调用无需传入?

关于HuggingFace中examples变量的疑问解答

一、examples到底是什么?

examples是批量的数据集样本字典。当你在dataset.map()中设置batched=True时,HuggingFace的Dataset库会自动把数据集按批次打包成字典格式:

  • 字典的键是数据集的特征列名(比如示例里的"question")
  • 字典的值是对应列的批量数据列表(比如一批问题文本组成的列表)

你定义的preprocess_function就是用来处理这一批样本的,比如示例里通过examples["question"]取出批次内所有问题文本,再做清洗处理。

二、为什么调用时无需手动传入?

这是因为dataset.map()是高阶函数——它接受一个处理函数作为参数,然后内部会自动完成以下逻辑:

  • 按批次遍历原始数据集的所有样本
  • 把每一批样本打包成examples参数
  • 自动将examples传入你定义的preprocess_function中执行处理
  • 最后将所有批次的处理结果合并成新的数据集返回

你只需要告诉map()要执行哪个处理函数,剩下的参数传递、迭代逻辑都由Dataset库内部完成,不需要手动传入examples。

简单类比:你只需要给工厂指定加工流程(preprocess_function),工厂会自动把原材料(数据集样本)分批送到流程里加工,不用你自己每次把原材料递进去。

内容的提问来源于stack exchange,提问作者pol0

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.07.15 09:27:16