如何通过API向Azure OpenAI提供动态自定义数据以支持账户查询？

一、动态数据实时注入核心逻辑 #

要支持用户查询个人购买记录、资料、订单等动态数据，核心是在用户发起查询时，先从业务系统拉取对应用户的实时数据，再将这些数据作为上下文注入Azure OpenAI的请求中，可结合已有静态知识库实现混合检索。

1. 用户数据权限校验与拉取 #

• 先在应用层获取当前用户的唯一标识（如用户ID），确保仅拉取该用户有权访问的个人数据，避免越权。
• 调用内部业务API（用户资料服务、订单服务、购买记录服务等）获取数据：

  # 示例：拉取用户订单数据
  def fetch_user_orders(user_id):
      api_endpoint = f"https://your-internal-api/orders?user_id={user_id}"
      auth_header = {"Authorization": "Bearer YOUR_SERVICE_TOKEN"}
      response = requests.get(api_endpoint, headers=auth_header)
      return response.json() if response.status_code == 200 else []
  

2. 数据格式化与上下文构建 #

• 将结构化的动态数据转为大模型易理解的自然语言格式，同时控制内容长度避免token超限：

  def format_dynamic_context(user_profile, orders, purchase_records):
      context = f"用户资料：姓名{user_profile['name']}，注册邮箱{user_profile['email']}\n"
      context += "最近5条订单：\n"
      for idx, order in enumerate(orders[:5], 1):
          context += f"{idx}. 订单号{order['id']}，商品{order['product_name']}，金额{order['total']}元，状态{order['status']}\n"
      context += "最近3次购买记录：\n"
      for record in purchase_records[:3]:
          context += f"- 商品{record['item']}，购买时间{record['buy_time']}\n"
      return context
  

• 将格式化后的动态数据与用户查询拼接成Prompt：

  以下是当前用户的个人相关数据：
  {动态上下文内容}
  
  请基于上述数据回答用户问题：{用户原始查询}
  

二、结合Azure AI Search的混合检索（可选） #

如果需要同时使用静态知识库和动态数据：

• 先根据用户查询从Azure AI Search检索静态内容。
• 将检索到的静态内容与实时拉取的动态数据合并作为上下文，再发送给Azure OpenAI。
• 若总内容过长，可对静态检索结果或动态数据做摘要/截断处理，适配模型token限制。

三、通过API向Azure OpenAI提供动态数据的进阶方式 #

利用Azure OpenAI的**函数调用（Function Calling）**能力，实现更智能的动态数据交互：

1. 在请求中定义业务函数的描述信息：

   {
     "functions": [
       {
         "name": "get_user_purchase_records",
         "description": "获取指定用户的历史购买记录",
         "parameters": {
           "type": "object",
           "properties": {
             "user_id": {
               "type": "string",
               "description": "用户唯一标识ID"
             }
           },
           "required": ["user_id"]
         }
       }
     ]
   }
   

2. 当用户提出需要查询动态数据的问题时，Azure OpenAI会返回函数调用指令，应用层调用对应业务API获取数据后，再将数据回传给大模型，由大模型整理成自然语言回答用户。

四、性能与安全优化 #

• 对静态数据做长期缓存，动态数据根据更新频率设置短时效缓存（如5分钟），平衡实时性与API调用压力。
• 过滤动态数据中的敏感信息（如手机号、身份证号）后再传入大模型，避免隐私泄露。
• 监控Azure OpenAI的token消耗与API调用频率，避免超出配额限制。

内容的提问来源于stack exchange，提问作者Aniket Kasar