Azure AI Studio中无法使用Phi-3 Vision的问题求助

我按照微软Phi-3教程操作，创建了phi-3-vision-128K-instruct实例并进入测试场测试，发送请求后点击测试无响应，参考建议调整JSON格式后仍未解决，请问问题出在哪里？

测试用JSON（调整后）：

{
  "input_data": {
    "input_string": [
      {
        "role": "user",
        "content": "how can you help me"
      }
    ],
    "parameters": {
      "temperature": 0.7,
      "top_p": 0.9,
      "max_new_tokens": 1024
    }
  }
}

可能的问题及解决方向 #

• 模型实例未就绪：先检查模型实例的部署状态，确保它显示为「就绪」状态。如果还在部署中或初始化，测试请求会无响应，需要等待部署完成。
• 多模态输入格式不匹配：Phi-3-Vision是多模态模型，Azure AI Studio测试场可能要求严格的多模态输入结构。即使是纯文本请求，content字段也需要用数组形式定义类型：

  {
    "input_data": {
      "input_string": [
        {
          "role": "user",
          "content": [
            {"type": "text", "text": "how can you help me"}
          ]
        }
      ],
      "parameters": {
        "temperature": 0.7,
        "top_p": 0.9,
        "max_new_tokens": 200
      }
    }
  }
  

• 资源配置不足：如果部署模型时选择的计算资源规格过低，推理速度会极慢，看起来像无响应。可以尝试等待更长时间，或者重新部署时选择更高配置的资源。
• 测试场环境异常：清理浏览器缓存、刷新页面，或者换个浏览器重新进入测试场，排除临时的前端或网络故障。
• 参数设置不合理：max_new_tokens设为1024可能超出当前资源的处理能力，先调低到200左右测试，看是否能正常响应。

内容的提问来源于stack exchange，提问作者Manu Chadha