如何在Dialogflow CX生成器中使用自定义微调的Text-Bison模型?
实现自有微调Text-Bison模型在Dialogflow CX生成器中使用的方法
可以实现这个需求,Dialogflow CX生成器默认下拉列表不会展示自定义微调模型,但通过手动配置即可接入,具体步骤如下:
- 确认模型状态:先检查你在Vertex AI生成式工作室创建的微调Text-Bison模型,确保它已经完成训练并成功部署到端点(Endpoint),状态显示为"已部署"。
- 手动配置自定义模型:
- 进入Dialogflow CX控制台,打开目标智能体的生成器设置界面。
- 在模型选择区域,切换到「自定义模型」选项(而非默认的下拉选择框)。
- 输入微调模型的完整资源ID,格式为
projects/[你的GCP项目ID]/locations/[部署区域]/models/[模型ID],这个ID可以在Vertex AI控制台的模型详情页面找到。 - 根据需求配置模型参数,比如温度(temperature)、最大输出tokens数等,和你微调时的设置保持一致即可。
- 配置权限:确保Dialogflow CX的服务账号拥有访问该Vertex AI模型的权限,比如添加
roles/aiplatform.user角色到对应的服务账号(可在GCP IAM控制台操作)。 - 验证区域一致性:Dialogflow CX智能体所在的区域,必须和Vertex AI模型部署的区域完全一致,否则会无法访问模型。
完成上述步骤后,你的微调模型就会被Dialogflow CX生成器调用,可通过测试对话验证效果。
内容的提问来源于stack exchange,提问作者Kalyan B
相关产品推荐
相关产品推荐

