数据智能体 DataAgent（私有化）
数据智能体 DataAgent（私有化）
- 文档首页
数据智能体 DataAgent（私有化）智能营销Agent指南企业知识引擎数据接入可视化知识处理数据处理AI-大模型处理V2火山方舟大模型V2
文档反馈
问问助手火山方舟大模型是AI-大模型处理算子中的智能化数据处理工具，支持对接火山引擎大模型服务，通过自定义模型配置、生成策略及角色人设，实现非结构化数据解析、多语言翻译等功能，适用于企业数据智能化处理场景。本文为您介绍如何使用火山方舟大模型。
说明
火山方舟大模型V2与火山方舟大模型相比优化了算子性能与参数配置逻辑。
火山方舟大模型算子对接火山引擎大模型服务，可对数据进行智能化处理，如用户评论分析、会话内容总结、图片内容识别等，用户可通过配置模型参数和提示词，实现数据的自动化智能处理。
注意
此功能为增值功能，如果您希望使用该功能，可联系火山引擎技术支持人员咨询，购买开通此功能后可使用。
第一步：新建方舟模型算子
- 点击「数据接入」，选择「可视化知识处理」，点击「新建」，选择「新建离线任务」。
- 按照离线任务中的步骤完成离线任务创建，在处理节点时，选择为数据连接添加「AI-大模型处理V2」中的火山方舟大模型V2算子。
第二步：配置模型与模型参数
- 在任务画板内选中火山方舟大模型V2。
- 在模型信息区域，完成以下配置。
- 模型：如果企业管理员已经为算子配置大模型（详情参见上文前提条件），则支持选择大模型。您也可以选择自定义模型，并完成模型相关配置。
- 模型调用地址：若选择自定义模型，则需要配置应用的调用地址。
- 推理接入点：若选择自定义模型，则需要配置推理接入点。一般格式为
ep-xxxxxxxxxx-yyyy，创建方式参考创建自定义推理接入点。 - API Key：若选择自定义模型，则需要配置 API Key。一般格式为
xxxxxxxx-yyyy-xxxx-yyyy-xxxxxxxxxxxx，获取方式参考获取 API Key 并配置。
- 在模型参数区域，完成以下配置。
- Temperature：取值范围 0~1，调高会使得模型的输出更多样性和创新性，反之，降低会使输出内容更加遵循指令要求但减少多样性。建议不要与 Top P 同时调整。
- Top P：取值范围 0~1，一种控制生成文本多样性的方法，也称为核采样（Nucleus Sampling）。模型会从累积概率超过 P 值的词汇中进行采样，较高的值会增加多样性。建议不要与 Temperature 同时调整。
- 最大输出长度：控制模型生成内容的最大长度。
- 思考模式：是否展示模型思考过程，可选择关闭、开启、自动。
第三步：配置输入参数
- 在参数配置区域添加输入参数。
- 字段：从输入参数中选择字段。
- 输入模式：
- content：内容，类型支持选择文本。
- file：文件，类型支持选择图片、视频、文档。
- 样例数据：可选配置，为输入参数设置默认样例数据。
- 在自定义参数区域，根据业务需要添加额外所需的自定义参数与参数值。
第四步：配置提示词
在提示词配置区域，系统默认提供了用户评论分析、会话内容总结、图片内容识别三类模版提示词供您参考。您可以选择指定模版并调整模版内容，也可以根据业务需要自定义编辑模型提示词。
文本字段不会自动发送给模型，因此需要以 ${字段名} 的格式在提示词内显示引用。成功配置后提示词下方会有如下图所示的提示信息。
第五步：配置数据后置操作并测试执行
勾选数据后置操作，在大模型输出结果的基础上对数据进行一些处理，单击测试执行可以测试数据后置操作的结果，在测试执行结果栏可查看。
例如，系统默认配置中，将响应结果中的消息解析为 JSON 对象。
第六步：配置高级设置
在高级设置区域配置参数。
相关参数说明如下：
参数 | 配置说明 |
|---|---|
并发大小 | 设置并发处理的任务数量。 |
超时时间 | 大模型计算超时时间，单位为毫秒 ms |
重试次数 | 请求失败时的自动重试次数，单位为次 |
请求间隔 | 大模型接入点一般都有RPM（每分钟请求次数）限制，根据RPM的值按需设置请求间隔，单位为毫秒ms 说明 设置请求间隔是为了避免出现大模型出现接口限流报错，一般错误信息如下 |
异常处理 |
|
第七步：配置输出参数
在测试执行结果的基础上，在字段设置区域配置字段、解析路径、字段类型，从而结构化输出数据，供下游节点使用。
大模型接口限流报错
问题表现
出现 Too Many Requests 的报错信息
解决方案
更换RPM更大的大模型接入点，可参考开通管理--火山方舟大模型服务平台-火山引擎；同时调大高级设置-请求间隔。
测试执行报错
问题表现
提示信息为后置操作执行失败
解决方案
先取消数据后置操作，点击测试执行，查看下当前测试执行结果。根据当前的试执行结果重新调整数据后置操作代码。
执行报错
问题表现
执行时报错，点击查看日志按钮，往下翻发现错误提示：java.lang.RuntimeException: 已达到最大失败重试次数, 错误信息:http result not success, code:400, message:Bad Request, body:{"error":{"code":"InvalidParameter","message":"One or more parameters specified in the request are not valid
解决方案
通过添加计算列算子对输入进行处理，将一些特殊字符替换掉，表达式为：
replace(replace(regexp_replace(`待处理字段`, "[\\n\\r\\t]", " "), '"', '"'), '\\', '\')