使用Optimum量化M2M100时遇from_pretrained()参数错误求助

根源分析 #

你遇到的问题是Optimum版本不匹配导致的：官方文档描述的是较新版本的API，而你本地安装的Optimum版本中，ORTQuantizer.from_pretrained方法还未引入file_name参数，仅支持feature等参数。

解决方案 #

方案1：升级Optimum到最新版本 #

执行以下命令升级Optimum（包含ONNX Runtime相关依赖）：

pip install --upgrade optimum[onnxruntime]

升级完成后，官方文档中的file_name参数写法即可正常使用：

encoder_quantizer = ORTQuantizer.from_pretrained(model_dir, file_name="encoder_model.onnx")

方案2：适配旧版本API（不升级） #

如果你暂时无法升级版本，可以使用旧版本的feature参数来指定编码器/解码器，该参数会自动匹配对应ONNX文件：

# 初始化编码器量化器
encoder_quantizer = ORTQuantizer.from_pretrained(model_dir, feature="encoder")
# 初始化解码器量化器
decoder_quantizer = ORTQuantizer.from_pretrained(model_dir, feature="decoder")

内容的提问来源于stack exchange，提问作者Arnav Saxena