千问大模型是AI-大模型处理算子中的智能化数据处理工具，通过自定义模型配置、生成策略及角色人设，实现非结构化数据解析、多语言翻译等功能，适用于企业数据智能化处理场景。本文为您介绍如何使用千问大模型算子。

• 已开通通义千问大模型服务或自定义的其他大模型服务。
• 企业管理员已为算子配置大模型，详情请参见设置大模型调用。

第一步：新建千问模型算子 #

1. 点击「数据接入」，选择「可视化知识处理」，点击「新建」，选择「新建离线任务」。
   
2. 按照离线任务中的步骤完成离线任务创建，在处理节点时，选择为数据连接添加「AI-大模型处理V2」中的千问大模型V2算子。
   

第二步：配置模型与模型参数 #

1. 在任务画板内选中千问大模型V2。
   
2. 在模型信息区域，完成以下配置。
   • 模型：如果企业管理员已经为算子配置大模型（详情参见上文前提条件），则支持选择大模型。您也可以选择自定义模型，并完成模型相关配置。
   • 模型调用地址：若选择自定义模型，则需要配置应用的调用地址。
   • 推理接入点：若选择自定义模型，则需要配置推理接入点。一般格式为ep-xxxxxxxxxx-yyyy，创建方式参考创建自定义推理接入点。
   • API Key：若选择自定义模型，则需要配置 API Key。一般格式为xxxxxxxx-yyyy-xxxx-yyyy-xxxxxxxxxxxx，获取方式参考获取 API Key 并配置。
3. 在模型参数区域，完成以下配置。
   • Temperature：取值范围 0~1，调高会使得模型的输出更多样性和创新性，反之，降低会使输出内容更加遵循指令要求但减少多样性。建议不要与 Top P 同时调整。
   • Top P：取值范围 0~1，一种控制生成文本多样性的方法，也称为核采样（Nucleus Sampling）。模型会从累积概率超过 P 值的词汇中进行采样，较高的值会增加多样性。建议不要与 Temperature 同时调整。
   • 最大输出长度：控制模型生成内容的最大长度。
   • 思考模式：是否展示模型思考过程，可选择关闭、开启、自动。

第三步：配置输入参数 #

1. 在参数配置区域添加输入参数。
   
   • 字段：从输入参数中选择字段。
   • 输入模式：
     • content：内容，类型支持选择文本。
     • file：文件，类型支持选择图片、视频。
   • 样例数据：可选配置，为输入参数设置默认样例数据。
2. 在自定义参数区域，根据业务需要添加额外所需的自定义参数与参数值。
   

第四步：配置提示词 #

在提示词配置区域，系统默认提供了用户评论分析、会话内容总结、图片内容识别三类模版提示词供您参考。您可以选择指定模版并调整模版内容，也可以根据业务需要自定义编辑模型提示词。

文本字段不会自动发送给模型，因此需要以 ${字段名} 的格式在提示词内显示引用。成功配置后提示词下方会有如下图所示的提示信息。

第五步：配置数据后置操作并测试执行 #

勾选数据后置操作，在大模型输出结果的基础上对数据进行一些处理，单击测试执行可以测试数据后置操作的结果，在测试执行结果栏可查看。
例如，系统默认配置中，将响应结果中的消息解析为 JSON 对象。

第六步：配置高级设置 #

在高级设置区域配置参数。

相关参数说明如下：

第七步：配置输出参数 #

在测试执行结果的基础上，在字段设置区域配置字段、解析路径、字段类型，从而结构化输出数据，供下游节点使用。