本文为您描述 API 网关的核心功能。 ## 安全认证 API 网关支持多种类型的认证鉴权方式，多方位保护 API 调用的安全，避免恶意用户访问。 |功能 |说明 | |---|---| |HTTPS 协议 |支持 HTTPS 通信协议，支持上传单/多/泛域名证书，使用 HTTPS 证书保证数据传输安全。 | |IP 黑白名单 |提供基于 IP 的黑名单和白名单，可以通过配置黑、白名单来拒绝或允许特定 IP 的访问请求。API 网关支持在实例级别、服务级别和路由级别配置 IP 黑名单和白名单，满足精细化的访问控制诉求。 | |JWT 认证 |提供 JSON Web Token（JWT）轻量级的认证规范，允许使用 JWT 在用户和服务器之间传递安全可靠的信息。服务开启 JWT 认证后，在访问服务对应域名下的所有请求中，只有携带 JWT Token 的请求才能访问成功。 | |HMAC 认证 |基于 HmacSHA256 算法为 HTTP 请求生成不可伪造的 AK/SK 签名，开启后需要携带相关请求头和签名等信息访问后段资源。 | |API Key 认证 |Key Auth 是一种简单且被广泛使用的用户认证机制。客户端在请求头或者请求参数中添加唯一的 API key。服务端或者代理获取 API key 之后查询是否存在对应的 Consumer/Client 身份，即可完成对应认证。 | ## AI 网关 API 网关支持作为 AI 网关，对接常见的大语言模型（OpenAI、豆包、月之暗面、通义千问等），为大语言模型提供统一、高可用的云原生网关功能。 |功能 |说明 | |---|---| |AI 多模型代理 |支持作为 AI 网关，为常见大语言模型提供托管的云原生网关功能，实现统一的多模型访问代理功能。并允许自定义接入点和语义，提升 AI 大模型使用时的用户体验。 | |AI 智能路由 |根据后端 GPU 负载情况，如排队请求数等，将请求调度到负载最低的实例，保证后端推理实例尽可能均匀处理请求。 | |Token 监控 |监控不同部门&团队的 Token 使用，帮助用户有效跟踪模型使用情况，例如了解哪些项目或者消耗的 Token 最多。 | |Token 用量控制 |基于对大模型使用 Token 数量的监控，对模型整体调用 Token 或不同部门 Token 的用量进行配额，有效管理模型资源使用。 | ## 流量管控 API 网关支持强大的路由管理、按流量比例灰度发布等功能，允许对流量进行精确管控和路由。 |功能 |说明 | |---|---| |路由管理 |支持根据 Method/Path/Query String 路由流量，并按流量权重分发至多个目标 Upstream，满足应用的多版本管理等场景。 | |超时策略 |支持响应超时策略，允许按需配置等待请求响应结果的最大时间。如果在指定时间内，API 网关未收到后端服务的响应结果，网关会向客户端返回一个 HTTP 状态码为`504`的响应结果。 | |跨域策略 |支持跨域资源共享 CORS（Cross\-Origin Resource Sharing）策略，允许进行跨域访问，从而实现跨域数据安全传输。 | |重写策略 |支持 URL 重写策略，允许改写服务访问的 URL，使其能够访问不同路径的后端服务。 | |重试策略 |支持重试策略，您可以指定重试条件，对出错的请求进行自动重试。例如：与后端服务连接失败、或使用指定的 HTTP 状态码进行请求重试。 | ## 后端类型 API 网关支持将具有相同功能的后端应用抽象成一个 Upstream，实现路由和后端应用解耦，满足后端应用的多版本管理等需求。 |功能 |说明 | |---|---| |容器服务类型 Upstream |支持对接火山引擎容器服务 VKE，将 VKE 集群下的 Kubernetes Service 抽象为一个 Upstream，作为网关的路由后端。适用于业务采用 VKE 部署，希望通过网关发布业务的场景。 | |注册中心类型 Upstream |支持对接火山引擎微服务引擎 MSE，将 MES Nacos 中注册的服务抽象为一个 Upstream，作为网关的路由后端。适用于业务采用 MSE Nacos 进行治理，希望通过网关发布业务的场景。 | |函数服务类型 Upstream |支持对接火山引擎函数服务 veFaaS，将一个已发布的函数抽象为一个 Upstream，作为网关的路由后端。适用于业务采用 veFaaS 部署，希望通过网关发布的场景。 | |云服务器类型 Upstream |支持对接火山引擎云服务器 ECS，将多个云服务器抽象为一个 Upstream，作为网关的路由后端。适用于业务在 ECS 部署，希望通过网关发布业务的场景。 | |固定域名类型 Upstream |支持对接固定域名，允许将与网关网络互通的固定域名封装为一个 Upstream，作为网关的路由后端。 | |固定 IP 类型 Upstream |支持对接固定 IP 地址，允许将与网关网络互通的固定 IP 地址封装为一个 Upstream，作为网关的路由后端。 | ## 功能插件 API 网关支持多种类型的插件，提供丰富的产品能力，强化网关可拓展性。插件支持热更新，可以快速生效网关配置，不影响线上流量。 |功能 |说明 | |---|---| |HMAC 插件 |基于 HmacSHA256 算法为 HTTP 请求生成不可伪造的 AK/SK 签名，用于开启或关闭 HMAC 认证功能。开启后需要携带相关请求头和签名等信息访问当前资源。 | |限流插件 |支持控制网关实例级别、路由级别的访问请求阈值，保障后端服务的稳定性。 | |IP 黑白名单插件 |支持在实例级别、服务级别和路由级别配置 IP 黑名单和白名单，满足精细化的访问控制诉求。 | |Key Auth 插件 |基于 Key Auth 用户认证机制，用于生成认证鉴权使用的 API Key。客户端在请求头或者请求参数中添加 API key，API 网关实例获取 API key 之后查询是否存在对应的 Consumer/Client 身份，即可完成对应认证。 |