You need to enable JavaScript to run this app.
最新活动
大模型
产品
解决方案
定价
生态与合作
支持与服务
开发者
了解我们

MacOS 11.6环境下安装transformers 3.0.2时tokenizers编译Wheel失败的解决求助

解决transformers 3.0.2 在MacOS 11.6 + Python3.9下的安装失败问题

你遇到的是tokenizers编译wheel失败的典型问题,虽然已经尝试了装Rust,但Mac环境下编译原生模块还需要一些额外配置,试试下面这些针对性的方案:

1. 补全Xcode Command Line Tools依赖

Mac上编译C/Rust类模块必须依赖完整的Xcode命令行工具,先检查是否安装:

xcode-select --version

如果没有安装提示,执行以下命令安装:

xcode-select --install

安装完成后重启终端,再尝试安装操作。

2. 确保Rust环境正确配置并更新到稳定版

刚安装的Rust可能没自动加载环境变量,或者版本不是稳定版导致编译兼容问题:

# 加载Rust环境变量
source $HOME/.cargo/env
# 更新到最新稳定版
rustup update stable

执行完后用rustc --version确认版本,确保显示的是stable分支的版本(比如rustc 1.70.0 (90c541806 2023-05-31))。

3. 先安装适配版本的tokenizers再装transformers

transformers 3.0.2依赖的tokenizers版本比较旧,直接安装可能会拉取不兼容的新版本,先手动指定适配版本:

pip3 install tokenizers==0.8.1rc2

这个版本是官方和transformers 3.0.2匹配的版本,装完之后再执行:

pip3 install transformers==3.0.2

4. 用conda绕过编译环节(备选方案)

如果上面的方法还是不行,试试用conda来管理依赖,它会直接提供预编译好的包,不需要手动编译:

conda install -c conda-forge transformers=3.0.2

如果还是报错,可以把报错信息里的关键编译错误行贴出来,这样能更精准定位问题。

内容的提问来源于stack exchange,提问作者Webmax

火山引擎 最新活动