如何向OpenVINO模型容器发送HTTP请求？求示例代码

针对你已部署的tft模型，以下是两种实用的HTTP请求调用方式：

1. 使用 curl 命令调用 #

curl -X POST http://localhost:9000/v1/models/tft:predict \
  -H "Content-Type: application/json" \
  -d '{
    "inputs": {
      "dense_3_input": [
        # 替换为你的实际输入数据，需匹配模型输入维度，示例：[[1.2, 3.4, 5.6], [7.8, 9.0, 1.2]]
      ]
    }
  }'

2. 使用 Python requests 库调用 #

import requests
import numpy as np

# 构造输入数据（替换为你的真实数据）
data = np.array([[1.2, 3.4, 5.6], [7.8, 9.0, 1.2]])
payload = {
    "inputs": {
        "dense_3_input": data.tolist()
    }
}

# 发送请求
response = requests.post(
    "http://localhost:9000/v1/models/tft:predict",
    json=payload,
    headers={"Content-Type": "application/json"}
)

# 解析响应
output = response.json()
print(output)

核心注意事项： #

• 请求路径规则：/v1/models/{模型名}:predict，这里模型名为tft，所以路径是/v1/models/tft:predict
• 若需指定模型版本，可使用路径：/v1/models/tft/versions/1:predict
• 请求体必须为application/json格式，inputs下的键名需与gRPC调用中的dense_3_input完全一致
• 输入数据维度必须匹配模型要求，否则会返回维度不兼容的错误

内容的提问来源于stack exchange，提问作者Canputer