如何使用Google Flan实现few-shot learning？

1. 如何给模型传入few-shot示例 #

Flan本身是基于指令微调的模型，传入few-shot示例不需要修改模型结构或者调用特殊接口，直接把示例按照「任务说明+示例+待处理样本」的格式拼接成完整prompt即可。
举个实际的拼接参考：

任务：判断输入句子的情感倾向，仅输出「正面/负面/中性」三个选项之一
示例1：
输入：这家店的火锅味道正宗，服务员响应也很及时
输出：正面
示例2：
输入：买的衣服刚穿一次就开线，找客服也没人处理
输出：负面
待处理输入：周末去公园逛了逛，樱花开得正好
输出：

注意事项：

• 所有示例的任务逻辑、输出格式必须和你最终的目标要求完全统一，不要混入不同任务、不同输出规范的示例
• 常规场景下3-5个示例就能拿到比较稳定的效果，示例过多会挤占上下文窗口，反而可能干扰模型对指令的理解
• 如果是调用封装好的生成接口，直接把拼接完成的整段文本作为输入传入即可，不需要额外传参数声明这是few-shot场景

2. 运行项目中哪个文件可以得到结果 #

根据你的使用场景对应找入口文件即可：

• 如果是直接加载预训练好的Flan权重做自定义任务推理：进入flan/t5x/目录，运行对应推理入口脚本，运行前在参数里配置好待加载的模型权重路径、你的测试数据路径、结果保存路径，执行完成后就能在你指定的输出目录拿到模型生成的结果
• 如果是要复现论文中的微调流程、公开数据集评测结果：进入flan/finetune/目录，运行对应任务的启动脚本即可，脚本里已经预置了论文中使用的超参数、数据处理逻辑，运行结束后会自动输出评测指标和生成结果文件

新手调试建议先从最小尺寸的Flan-small权重开始，先跑通单样本推理流程，再调整few-shot示例、更换更大尺寸的模型，能省很多调试等待的时间。

内容的提问来源于stack exchange，提问作者HarryLi