如何在Prodigy中基于csv文件运行ner.manual完成命名实体标注
问题解答
1. CSV文件无需转换,可以直接使用
Prodigy原生支持CSV格式作为输入数据源,不需要提前转换为JSON格式。仅需要确保你的CSV文件中包含待标注的文本列即可,如果列名不是默认的text,后续启动命令中通过参数指定对应列名即可。
2. ner.manual 标注任务启动命令配置
核心参数说明
ner.manual命令的必填参数按顺序为:
- 自定义数据集名称:用来存储你标注的结果,后续导出评估数据就用这个名字调取
- 基础模型:因为你只是标注人名不需要预训练模型输出预测建议,直接填
blank:zh(中文场景)或者blank:en(英文场景)即可 - 数据源路径:你的
texts.csv的本地存放路径 - 标签参数
--label:后面接你要标注的实体类型,这里直接填人名或者PER都可以,按你们团队的统一规范设置 - 加载参数:如果你的CSV文本列不是默认
text,要加--loader csv --field 你的文本列名指定对应列
最简命令示例(CSV文本列名是text的场景)
!python -m prodigy ner.manual person_gold_eval blank:zh ./texts.csv --label 人名
自定义列名场景命令示例
假设你要把标注结果存在名为person_gold_eval的数据集里,CSV的待标注文本列名为content,中文标注场景,命令如下:
!python -m prodigy ner.manual person_gold_eval blank:zh ./texts.csv --label 人名 --loader csv --field content
常用可选补充参数
- 如果需要避免重复标注已经处理过的样本,追加
--exclude person_gold_eval - 如果需要在标注界面同时展示CSV里的其他字段(比如文本ID、来源等),可以在
--field后按顺序加多个列名,比如--field id,content,第一列会作为元数据展示,第二列作为标注文本
标注完成后导出黄金评估集
标注结束后执行以下命令即可导出所有标注结果,用来评估你的自研模型:
!python -m prodigy db-out person_gold_eval > ./gold_person_annotations.jsonl
内容的提问来源于stack exchange,提问作者Emil
相关产品推荐
相关产品推荐

