You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

开启多线程时,onnxruntime-web(Wasm后端)代理模式推理失败求助

在ONNX Runtime Web的Wasm后端开启proxy选项与多线程的问题

有没有人成功在Wasm后端开启proxy选项(ort.env.wasm.proxy)和多线程运行ort-web?我运行以下JavaScript代码时出现控制台错误,且网络请求日志异常。我使用esbuild打包源码,想搞懂为什么ort用我的打包代码alt.js实例化worker,而不是ort-web自身的JavaScript文件?

// alt.ts
import * as ort from "onnxruntime-web/wasm";

ort.env.logLevel = "verbose";
ort.env.debug = true;
ort.env.wasm.proxy = true;
// ort.env.wasm.numThreads = 4;

const session = await ort.InferenceSession.create("./yolo12n.onnx", {
  // executionMode: "parallel",
  executionProviders: ["wasm"],
});

问题原因与解决方案

  • Worker实例化异常的原因:
    esbuild打包时会把ort-web的代码和你的业务代码alt.ts合并到同一个alt.js文件中。ort-web创建Worker时,默认会读取当前脚本的URL(也就是alt.js)来实例化,而非它自带的独立worker脚本,这是打包工具修改了模块加载路径导致的。

  • 修复Worker路径问题的方法:

    1. 在esbuild配置中排除ort-web,不让打包工具将其合并到业务代码中:
      // esbuild.config.js
      require('esbuild').build({
        entryPoints: ['alt.ts'],
        bundle: true,
        outfile: 'dist/alt.js',
        external: ['onnxruntime-web'],
        format: 'esm',
      }).catch(() => process.exit(1));
      
    2. 手动指定worker脚本路径:通过ort.env.wasm.wasmPaths配置,指向ort-web内置worker脚本的所在目录(本地依赖目录或CDN路径均可):
      ort.env.wasm.wasmPaths = './node_modules/onnxruntime-web/dist/';
      
  • 开启proxy与多线程的注意事项:

    1. 开启proxy: true时,要确保资源路径配置正确,避免跨域请求错误。
    2. 开启多线程(numThreads: 4)时,必须同时设置executionMode: "parallel",且浏览器需支持SharedArrayBuffer——这要求页面配置跨域隔离头:Cross-Origin-Opener-Policy: same-origin和Cross-Origin-Embedder-Policy: require-corp。

内容的提问来源于stack exchange,提问作者ack_inc

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.06.12 16:34:51