如何让AWS Bedrock返回指定JSON格式并支持动态参数?
AWS Bedrock ai21.j2-mid-v模型JSON输出与动态摘要长度实现方案
一、强制返回指定JSON格式
ai21.j2-mid-v无内置JSON输出强制参数,需通过优化提示词约束模型输出,修改后的提示词模板如下:
请严格按照以下JSON格式返回结果,不得添加任何格式外内容,键名必须为"summary"和"image_url",字符串值用双引号包裹: { "summary": "", "image_url": "" } 任务:生成以下URL页面的内容摘要,并提取页面中的图片URL:[url]
若模型仍有输出偏差,可在提示词末尾追加强化约束:「若无法提取图片URL,将image_url字段设为空字符串;必须保证JSON结构可直接解析」。
二、动态控制摘要长度
ai21.j2-mid-v无直接设置摘要长度的模型参数,最优方案是在提示词中明确指定长度要求,动态拼接提示词模板:
请严格按照以下JSON格式返回结果,不得添加任何格式外内容,键名必须为"summary"和"image_url",字符串值用双引号包裹: { "summary": "", "image_url": "" } 任务:生成以下URL页面的内容摘要(摘要长度控制在[DYNAMIC_LENGTH]字符左右),并提取页面中的图片URL:[url]
在代码中,将[DYNAMIC_LENGTH]替换为实际需要的数值(如500、1000、2000)即可实现动态控制。
三、参考方案核心思路
参考AWS社区关于Bedrock Converse API生成JSON的实践,核心是通过明确、结构化的提示词指令约束模型输出,避免冗余内容,同时通过提示词传递长度等自定义需求,弥补模型无对应参数的不足。
内容的提问来源于stack exchange,提问作者Primico
相关产品推荐
相关产品推荐

