Databricks微调Llama2遇typing_extensions导入override错误求助

问题本质 #

override装饰器是typing_extensions 4.4.0版本才新增的特性，出现此错误通常是因为当前Databricks环境中实际生效的typing_extensions版本低于该阈值，或者存在依赖冲突导致新版本未被正确加载。

解决方案 #

1. 强制重装并指定版本，重启内核

在Notebook最顶部执行以下命令，强制覆盖安装指定版本，并必须重启Notebook内核（Databricks环境中内核不重启则新包不会生效）：

%pip install typing_extensions==4.7.1 --force-reinstall --user

2. 验证生效版本与依赖冲突

执行以下代码确认当前环境实际加载的typing_extensions版本及是否包含override：

import typing_extensions
print(f"当前typing_extensions版本: {typing_extensions.__version__}")
print(f"是否包含override: {'override' in dir(typing_extensions)}")

若版本仍不符合预期，检查依赖树找出强制拉低版本的包：

%pip show typing_extensions
%pip check typing_extensions

3. 创建独立隔离环境（彻底解决冲突）

如果环境依赖冲突无法解决，可创建独立的conda环境隔离依赖：

%conda create -n llm_finetune python=3.10 -y
%conda activate llm_finetune
%pip install transformers==4.31.0 datasets==2.14.0 peft==0.4.0 trl==0.4.7 typing_extensions==4.7.1 accelerate==0.21.0

创建完成后重启内核，选择新创建的llm_finetune环境运行代码。

4. 临时绕过方案（应急使用）

若暂时无法调整环境，可手动替换代码中override的引用：
找到代码中导入override的位置，替换为以下兼容代码：

try:
    from typing_extensions import override
except ImportError:
    def override(func):
        return func

内容的提问来源于stack exchange，提问作者Ethan Seiler