如何在Watson Assistant中调用自定义watsonx.ai Prompt？

1. 准备watsonx.ai相关信息 #

• 找到你已创建的Prompt的Prompt ID：进入watsonx.ai的Prompt Library，打开目标Prompt的详情页即可查看该ID
• 记录watsonx.ai的API密钥，以及服务所在的区域端点（如us-south、eu-gb等）

2. 创建Watson Assistant自定义扩展 #

• 进入你的Watson Assistant实例，切换到「扩展」标签页，点击「创建自定义扩展」
• 选择「从头开始创建」，填写扩展名称和描述后，进入API操作定义环节

3. 定义调用特定Prompt的API操作 #

• 添加一个POST类型的API操作，端点填写watsonx.ai的文本生成API地址，格式为：https://{区域端点}.ml.cloud.ibm.com/ml/v1/text/generation?version=2023-05-29（替换{区域端点}为实际值）
• 设置请求头：添加Authorization字段，值为Bearer {你的API密钥}；设置Content-Type为application/json
• 配置请求体，核心是指定你的Prompt ID，示例请求体如下：

{
  "model_id": "ibm/granite-13b-chat-v1", // 替换为你Prompt使用的模型ID
  "input": "", // 后续在对话节点中传入用户输入
  "parameters": {
    "prompt_id": "你的Prompt ID",
    "max_new_tokens": 500,
    "temperature": 0.7
  }
}

• 保存API操作，完成扩展定义后，将该扩展安装到你的Watson Assistant技能中

4. 在对话节点中调用扩展 #

• 打开目标Assistant技能，进入需要调用watsonx Prompt的对话节点
• 添加「调用扩展」动作，选择刚创建的自定义扩展和对应的API操作
• 在请求配置里，把用户输入（如<? input.text ?>）填充到请求体的input字段
• 添加「处理响应」步骤，提取watsonx返回的结果（如<? response.body.results[0].generated_text ?>），作为Assistant的回复内容返回给用户

5. 测试验证 #

• 启动Assistant的测试工具，输入触发该节点的问题，检查是否正确返回目标Prompt生成的结果
• 若出现错误，排查API密钥、Prompt ID、模型ID是否匹配，请求体参数是否配置正确

内容的提问来源于stack exchange，提问作者IAN VINCENT