导入torch报错ModuleNotFoundError：缺失torch.ao.nn.intrinsic.modules.fused模块

问题描述 #

在Python 3.8.10虚拟环境中，尝试导入torch（或依赖它的sentence_transformers）时触发以下错误：

ModuleNotFoundError: No module named 'torch.ao.nn.intrinsic.modules.fused'

完整调用栈：

ModuleNotFoundError                       Traceback (most recent call last)
Cell In[1], line 1
----> 1 import torch

File c:\path\MTW_Projects\Active_BERTOPIC\venvBERTOPIC\lib\site-packages\torch\__init__.py:1263
   1261 # nn.quant* depends on ao -- so should be after those.
   1262 import torch.nn.quantizable
-> 1263 import torch.nn.quantized
   1264 import torch.nn.qat
   1265 import torch.nn.intrinsic

File c:\path\MTW_Projects\Active_BERTOPIC\venvBERTOPIC\lib\site-packages\torch\nn\quantized\__init__.py:1
----> 1 from . import dynamic  # noqa: F403
      2 from . import functional  # noqa: F403
      3 from . import modules  # noqa: F403

File c:\path\MTW_Projects\Active_BERTOPIC\venvBERTOPIC\lib\site-packages\torch\nn\quantized\dynamic\__init__.py:1
----> 1 from torch.ao.nn.quantized.dynamic import *  # noqa: F403

File c:\path\MTW_Projects\Active_BERTOPIC\venvBERTOPIC\lib\site-packages\torch\ao\nn\quantized\__init__.py:1
----> 1 from . import functional
      2 from .modules import *  # noqa: F403
      3 from .modules import MaxPool2d
...
----> 1 from .fused import _FusedModule  # noqa: F401
      2 from .fused import ConvBn1d
      3 from .fused import ConvBn2d

ModuleNotFoundError: No module named 'torch.ao.nn.intrinsic.modules.fused'

解决方法 #

• 彻底清理并重新安装torch
  该错误多因torch安装不完整导致，先完全卸载现有torch相关包：

  pip uninstall -y torch torchvision torchaudio
  

  针对Python 3.8，推荐安装torch 1.13.x或2.0.x版本（兼容性更稳定），根据硬件选择对应命令：

  • CPU版本：

    pip install torch==2.0.1 torchvision==0.15.2 torchaudio==2.0.2 --index-url https://download.pytorch.org/whl/cpu
    

  • CUDA 11.7版本：

    pip install torch==2.0.1 torchvision==0.15.2 torchaudio==2.0.2 --index-url https://download.pytorch.org/whl/cu117
    

• 验证虚拟环境隔离
  确认操作的是目标虚拟环境，执行以下命令检查已安装包：

  pip list
  

  确保列表中仅存在目标torch版本，无冲突包。

• 修复损坏的安装缓存
  若重新安装后仍报错，清理pip缓存后再次安装：

  pip cache purge
  

• 临时跳过量化模块导入（不推荐长期使用）
  找到虚拟环境中torch/__init__.py文件，定位到第1263行附近的量化模块导入代码，将其注释：

  # import torch.nn.quantized
  # import torch.nn.qat
  # import torch.nn.intrinsic
  

  此方法可临时让torch正常加载，但会丢失量化相关功能。

内容的提问来源于stack exchange，提问作者CarlArthur