RAG （Retrieval\-Augmented Generation，检索增强生成）的核心思想是让大语言模型在生成回答或文本时能够动态地从外部知识库中检索相关信息。这种方法能够提高模型生成内容的准确性、可靠性和透明度。本文主要介绍 RAG 场景开发的 5 个步骤：配置索引、添加数据、知识检索、重排序和知识问答。 ## 前提条件 * 已创建 OpenSearch 2.9.0 版本实例。具体操作请参见[创建实例](https://www.volcengine.com/docs/6465/70681)。 * 已创建 AI 搜索。具体操作请参见[创建 AI 搜索](https://www.volcengine.com/docs/6465/1263536)。 * 已创建并启动 RAG 场景，场景状态为**运行中**。具体操作请参见[创建场景](https://www.volcengine.com/docs/6465/1537034)和[启动场景](https://www.volcengine.com/docs/6465/1537036)。 ## 操作步骤 1. 登录[云搜索服务控制台](https://console.volcengine.com/es)。 2. 在顶部导航栏，选择目标项目和地域。 3. 在左侧导航栏选择 **AI 搜索**，查找并单击目标服务名称。 4. 在左侧导航栏选择**场景开发**，然后单击目标场景。 5. 在场景开发页面，进行以下配置，然后在右上角单击**保存**。 ### 配置索引 1. 在场景开发页面顶部选择**索引配置**页签，然后单击**配置索引**。 2. 在配置索引面板，配置以下参数，然后单击**确定**。 |**参数** |**说明** | |---|---| |模型来源 |选择**默认模型**或**方舟模型**。 | |模型/推理服务 |选择已经创建推理服务下关联的模型。如果需要新的推理服务，可参考[创建推理服务](https://www.volcengine.com/docs/6465/1347836)。|\ | |:::tip|\ | |当**模型来源**选择**方舟模型**时，仅支持对话模型。|\ | ||\ | |:::| |API Key |选择已经创建的 API Key。如果需要新的 API Key，可参见[创建 API Key](/docs/6465/1359479)。 | ### 添加数据 1. 在场景开发页面，单击**添加数据**。 2. 在**添加数据**面板上，配置以下参数，然后单击**立即添加**。 |**参数** |**说明** | |---|---| |文件类型 |指定待添加数据的文件类型。可选值：|\ | ||\ | |* 本地文件|\ | |* 对象存储文件|\ | |* 文本输入 | |输入文本 |输入待添加数据的文本，长度为 1~1048576 字符。此参数仅当**文件类型**选择**文本输入**时可见。 | |选择存储桶 |选择用于存储待添加数据的存储桶。如无可用存储桶，请先创建存储桶。具体操作，请参见[创建存储桶](https://www.volcengine.com/docs/6349/75024)。 | |选择存储文件夹 |在选定的存储桶中选择用于存储待添加数据的文件夹。当**文件类型**选择**本地文件**时，单击上传区域然后选择待上传的文件或将待上传的文件拖动至上传区域。 | |编码类型 |待添加数据的编码类型，固定为 **UTF\-8**。 | |分隔符 |当切片长度接近最大长度时，根据分隔符列表中任意字符将长文本进行分段。默认值： **!?！？。\n**。 | |切片最大长度 |单个切片的最大长度。取值范围为 256~1024 的整数。默认值：**512**。 | |重叠文本长度 |两个相邻文本切片的重叠长度。值范围为 64~256 的整数。默认值：**128**。 | |长度计算方法 |固定为 **token**。 | ### 知识检索 :::tip 知识检索默认为关闭状态，开启可进行自定义配置。 ::: 配置**召回数量**来设置知识检索阶段返回的文档数量。 ### 重排序 :::tip 重排序默认为关闭状态，开启可进行自定义配置。 ::: 将知识检索阶段的召回结果输入到重排序模型，进行语义级重排序，输出得分最高的 Top N 的文档。 |**参数** |**说明** | |---|---| |模型/推理服务 |在下拉列表中选择推理服务，或创建新的推理服务，详情请参见[创建推理服务](https://www.volcengine.com/docs/6465/1347836)。 | |API Key |在下拉列表中选择 API Key，或创建新的 API Key，详情请参见[创建 API Key](https://www.volcengine.com/docs/6465/1359479)。 | |返回数量 |设置重排序后保留的文档数量。 | ### 知识问答在知识问答环节，经过重排序模块筛选的相关文档和用户问题作为输入数据，被输送至大语言模型。大语言模型基于此对输入数据进行语义分析，将检索文档的知识与用户问题的语义信息相融合，构建符合自然语言逻辑的文本，输出高质量、有针对性的结果，从而有效解答用户的问题。 |**参数** |**说明** | |---|---| |模型/推理服务 |在下拉列表中选择推理服务，或创建新的推理服务，详情请参见[创建推理服务](https://www.volcengine.com/docs/6465/1347836)。 | |API Key |在下拉列表中选择 API Key，或创建新的 API Key，详情请参见[创建 API Key](https://www.volcengine.com/docs/6465/1359479)。 | |Prompt |可以根据实际对话需要设置合适的 Prompt，给出更加具体的回答要求。|\ | |例如您可以将 Promt 设置为 “你是一个智能问答 AI 机器人”。 | |拼接邻近文本片数量 |为召回重排后的结果拼接邻近文本片，合理设置拼接相邻文本片的数量，既能保证信息的完整性，又能提升语义的连贯性。这样能够让模型获取更丰富的信息，进而生成更连贯、高质量的文本。取值范围为 0~5。 | |多轮对话 |设置是否开启多轮对话，基于历史对话对本轮问题进行改写，使其具备更完整的语义信息，检索更准确。|\ | |:::warning|\ | |多轮对话会增加检索时长和额外的 token 消耗。|\ | ||\ | |:::| ## 调试预览场景开发配置完成后，您在**开发与调试**页签中输入如下 Query 进行测试。 ```Plain 我原先在本地搭建的 ES 实例，集群能承载每秒 1000 个请求，节点磁盘带宽 150MB/s，现在想上云，预算大概 1000 元每月，我该选择什么实例规格？ ``` 调试预览中返回的结果示例如下。 ![图片](https://p9-arcosite.byteimg.com/tos-cn-i-goo7wpa0wc/7f93238d190d48158781e5dba8ce543e~tplv-goo7wpa0wc-image.image =879x) ## 查看日志您可以在场景开发页面单击**日志查询**查看场景的日志。支持按照时间段、日志等级、文件和关键词过滤日志。 ## 查看配置信息您可以在场景开发页面单击**配置信息**，查看场景的**基本信息**、**发布资源**和**访问信息**。 |**分类** |**详细信息** | |---|---| |基本信息 |基本信息包含场景的名称、状态、描述和创建时间。 | |资源配置 |资源配置包含可用区、高可用状态、资源类型、规格和节点数量。 | |访问信息 |当前 AI 搜索开启公网和私网访问后，可查看访问信息包含公网访问地址和私网访问地址。具体操作，请参见[配置 AI 搜索公网访问](https://www.volcengine.com/docs/6465/1359459)和[配置 AI 搜索私有网络](https://www.volcengine.com/docs/6465/1347835)。 | ## 查看调用示例您可以在场景开发页面单击**调用示例**查看场景的调用示例，可选择 cURL 或 Python 格式的示例。