Node.js调用Hugging Face推理API出现连接超时错误求助

• 检查代理配置
  Node.js不会自动读取系统代理，但浏览器和Postman通常会自动适配。如果你的网络需要代理，得在请求里手动配置：
  用axios的示例：

  const axios = require('axios');
  const httpsProxyAgent = require('https-proxy-agent');
  
  const agent = new httpsProxyAgent('http://你的代理地址:端口');
  axios.post('https://api-inference.huggingface.co/models/mistralai/Mistral-7B-Instruct-v0.2', {
    inputs: '你的输入文本'
  }, {
    headers: {
      'Authorization': 'Bearer 你的HF_TOKEN'
    },
    httpsAgent: agent,
    timeout: 60000 // 把超时时间延长到60秒
  });
  

  用fetch的示例（需配合undici库）：

  const { Agent } = require('undici');
  const proxyAgent = new Agent({
    uri: 'http://你的代理地址:端口'
  });
  
  fetch('https://api-inference.huggingface.co/models/mistralai/Mistral-7B-Instruct-v0.2', {
    method: 'POST',
    headers: {
      'Authorization': 'Bearer 你的HF_TOKEN',
      'Content-Type': 'application/json'
    },
    body: JSON.stringify({ inputs: '你的输入文本' }),
    dispatcher: proxyAgent,
    signal: AbortSignal.timeout(60000)
  });
  

• 延长超时时间
  大模型推理耗时通常较长，默认超时设置可能不够。不管用哪个请求库，都手动把超时时间调到60秒以上，避免因推理未完成就触发超时。

• 排查防火墙/网络策略
  部分本地防火墙或服务器出站规则会拦截Node.js发起的HTTPS请求，但放行浏览器、Postman的请求。可以临时关闭本地防火墙测试，或者检查服务器规则，确保允许访问api-inference.huggingface.co的443端口。

• 对齐请求参数和头信息
  把Node.js里的请求头、请求体和Postman的完全匹配：检查Authorization的Bearer token格式是否正确，Content-Type是否为application/json，请求体的inputs字段内容、格式和浏览器端完全一致，避免多余字段或格式错误。

• 使用官方Node.js库
  直接用Hugging Face官方提供的@huggingface/inference库，封装了更稳定的请求逻辑：

  const { HfInference } = require('@huggingface/inference');
  
  const hf = new HfInference('你的HF_TOKEN');
  hf.textGeneration({
    model: 'mistralai/Mistral-7B-Instruct-v0.2',
    inputs: '你的输入文本',
    parameters: {
      max_new_tokens: 100
    }
  }).then(response => console.log(response));
  

  安装命令：npm install @huggingface/inference

内容的提问来源于stack exchange，提问作者adyingdeath