开启多线程时,onnxruntime-web(Wasm后端)代理模式推理失败求助
在ONNX Runtime Web的Wasm后端开启proxy选项与多线程的问题
有没有人成功在Wasm后端开启proxy选项(ort.env.wasm.proxy)和多线程运行ort-web?我运行以下JavaScript代码时出现控制台错误,且网络请求日志异常。我使用esbuild打包源码,想搞懂为什么ort用我的打包代码alt.js实例化worker,而不是ort-web自身的JavaScript文件?
// alt.ts import * as ort from "onnxruntime-web/wasm"; ort.env.logLevel = "verbose"; ort.env.debug = true; ort.env.wasm.proxy = true; // ort.env.wasm.numThreads = 4; const session = await ort.InferenceSession.create("./yolo12n.onnx", { // executionMode: "parallel", executionProviders: ["wasm"], });
问题原因与解决方案
Worker实例化异常的原因:
esbuild打包时会把ort-web的代码和你的业务代码alt.ts合并到同一个alt.js文件中。ort-web创建Worker时,默认会读取当前脚本的URL(也就是alt.js)来实例化,而非它自带的独立worker脚本,这是打包工具修改了模块加载路径导致的。修复Worker路径问题的方法:
- 在esbuild配置中排除
ort-web,不让打包工具将其合并到业务代码中:// esbuild.config.js require('esbuild').build({ entryPoints: ['alt.ts'], bundle: true, outfile: 'dist/alt.js', external: ['onnxruntime-web'], format: 'esm', }).catch(() => process.exit(1)); - 手动指定worker脚本路径:通过
ort.env.wasm.wasmPaths配置,指向ort-web内置worker脚本的所在目录(本地依赖目录或CDN路径均可):ort.env.wasm.wasmPaths = './node_modules/onnxruntime-web/dist/';
- 在esbuild配置中排除
开启proxy与多线程的注意事项:
- 开启
proxy: true时,要确保资源路径配置正确,避免跨域请求错误。 - 开启多线程(
numThreads: 4)时,必须同时设置executionMode: "parallel",且浏览器需支持SharedArrayBuffer——这要求页面配置跨域隔离头:Cross-Origin-Opener-Policy: same-origin和Cross-Origin-Embedder-Policy: require-corp。
- 开启
内容的提问来源于stack exchange,提问作者ack_inc
相关产品推荐
相关产品推荐

