关于Azure平台RAG系统生成答案的Grounding Score API获取的技术问询

• 完全可以通过API实时获取生成答案的Grounding Score，满足在线服务场景下返回答案前实时校验的需求，无需依赖控制台的批量分析方式。
• 具体操作：调用启用检索增强功能的Azure OpenAI Chat Completion API时，在请求参数的retrieval_options中设置include_grounding_scores: true。
• API响应会包含grounding_scores字段，里面会给出每个检索到的参考文档与生成答案的匹配分数，以及整体关联评估结果，你可以直接在服务端基于这些分数完成实时校验逻辑。
• 这种API方式是请求级别的实时返回，每一次生成答案的请求都会同步返回对应的Grounding Score，刚好适配在线服务的实时校验场景。

内容的提问来源于stack exchange，提问作者Afshin Oroojlooy