PyG 2.3.1中torch_geometric.nn.attention模块缺失问题求助

你遇到的Cannot find reference 'attention' in '__init__.py'错误，核心原因是PyG不同版本的模块结构差异——torch_geometric.nn.attention模块是在PyG的**开发版（nightly）**中新增的，而稳定版2.3.1还未将PerformerAttention移到这个路径下。以下是几种可行的解决方法：

方法一：升级到PyG开发版 #

如果想完全匹配GraphGPS示例的代码结构，直接安装PyG的最新开发版即可：

# 根据你的PyTorch和CUDA版本替换链接，这里以PyTorch 2.0 + CUDA 118为例
pip install torch_geometric -f https://data.pyg.org/whl/torch-2.0.0+cu118.html

安装完成后，原导入语句from torch_geometric.nn.attention import PerformerAttention就能正常工作。

方法二：适配PyG 2.3.1的导入路径 #

在2.3.1版本中，PerformerAttention实际位于gps_conv模块下，修改导入语句即可：

from torch_geometric.nn.conv.gps_conv import PerformerAttention

方法三：直接使用GPSConv的内置参数 #

GraphGPS示例中手动导入PerformerAttention是为了自定义配置，但其实PyG的GPSConv已经内置了对Performer注意力的支持，无需手动导入类。你可以通过attn_type参数直接指定：

from torch_geometric.nn.conv import GPSConv

# 示例：构建GPSConv并指定Performer注意力
conv = GPSConv(
    in_channels=64,
    out_channels=64,
    heads=8,
    attn_type='performer',  # 直接指定注意力类型
    attn_kwargs={'dropout': 0.1}  # 传递Performer的配置参数
)

额外说明 #

不需要安装任何额外包，PerformerAttention是PyG的内置组件，只是不同版本的存放路径有区别。你的GCN等层能正常运行，说明PyG的基础安装是没问题的。

内容的提问来源于stack exchange，提问作者Tianjian Qin