如果您的业务使用特定模型服务，大模型应用防火墙可以通过模型服务域名和防护路径等信息将业务流量牵引至防护接入点进行检测防护，解决大模型应用面临的恶意攻击、敏感数据泄露、算力滥用等问题，保障业务安全稳定运行。本文介绍将模型服务业务接入大模型应用防火墙的具体操作步骤。

接入后的请求过程

接入大模型应用防火墙后，业务流量的处理流程如下：

• 请求阶段：客户端发起的业务请求首先会经过大模型应用防火墙的安全检测，检测通过后才会转发至模型服务端进行处理。
• 响应阶段：服务端生成的响应内容同样需要经过大模型应用防火墙的安全检测，检测完成后才会返回给客户端。

完整的请求响应流程如下图所示：

前提条件

• 您的业务已经接入相关模型服务平台。
• 您已创建防护实例，相关操作可参考创建大模型应用防火墙实例。

注意事项

API Key 需符合Authorization: Bearer <API Key>样式，否则会导致鉴权失败，流量无法通过。

步骤一 获取模型服务域名和 API Key

• 机器学习平台：需获取模型服务域名。服务域名是您在火山引擎机器学习平台部署的服务的公网访问地址，公网环境下，您可以通过该访问地址调用服务。获取方式可参考获取机器学习平台服务域名。
• 方舟平台：需获取方舟应用 API Key。API Key 是您请求火山引擎方舟大模型服务的凭证，因此您需要先获取模型服务的 API Key，再将其提供给大模型应用防火墙服务，实现业务与大模型应用防火墙的交互。获取方式可参考获取方舟应用 API Key。
• 其他模型服务：需获取模型应用 API Key 和模型服务域名。详情请参考具体模型服务相关文档。

步骤二 配置接入参数

获取相关服务域名和 API Key 后，您只需要简单配置，就可以将业务接入大模型应用防火墙服务进行防护了。

1. 登录大模型应用防火墙控制台。
2. 在顶栏选择实例所属地域。
3. 在左侧导航选择资产管理，然后单击添加资产。
4. 选择接入方式为模型服务接入，并配置应用信息、模型参数和源站配置。
   详细配置请参见配置模型接入参数。
   
5. 单击下一步。

步骤三 配置防护策略

配置完接入参数后，您可以直接为当前资产应用设置防护策略。平台会展示防护策略的默认配置，且配置为开启状态。

• 如无需修改，您可以直接提交当前配置，完成控制台部分的接入操作。
• 如需修改，可直接在当前页面调整相关配置。修改并确认后的结果将作为下一次接入的默认配置。

对应策略的详细介绍和配置说明可参见防护策略介绍。

步骤四 替换模型访问路径

将原模型访问域名替换成大模型应用防火墙提供的防护域名，将访问流量牵引至大模型应用防火墙进行防护。方舟服务的访问路径替换方法可参考后续操作。

后续操作

• 查看防护数据：您可以在首页查看安全防护数据，包括请求次数、防护次数，以及对应的请求趋势曲线图和攻击分布占比图。详情请参见查看安全概览信息。
• 分析攻击事件：如果有命中防护规则的请求或响应，大模型应用防火墙会在攻击详情列表生成对应的日志记录，便于您追溯和分析攻击事件。您可以根据攻击事件详情和防护数据，调整或新增防护规则使大模型应用防火墙的检测结果更符合您的业务场景。例如，对匹配非高危检测分类的请求内容仅做观察处理，而不直接拦截，以避免误报。详情请参见查看攻击事件详情。