使用lucidrains RETRO-pytorch训练自定义数据集时的报错求助

Google Colab环境：No embeddings found in folder .tmp/embeddings 异常 #

问题重现 #

运行TrainingWrapper脚本时，日志显示嵌入文件已保存到.tmp/embeddings/00000.npy，且手动确认文件存在，但仍触发ValueError提示未找到嵌入文件。

解决方案 #

• 指定绝对路径替代相对路径
  Colab的工作目录可能因会话重启或操作改变，改用绝对路径避免路径解析错误：

  import os
  embeddings_dir = os.path.abspath('.tmp/embeddings')
  # 在TrainingWrapper中显式指定embeddings_folder参数
  wrapper = TrainingWrapper(
      # 其他原有参数保持不变
      embeddings_folder=embeddings_dir
  )
  

• 检查embedding_reader版本兼容性
  异常来自embedding_reader库的NumpyReader，可能存在版本适配问题，尝试回退或升级版本：

  pip install embedding_reader==1.0.0
  

• 补全嵌入元数据文件
  该库依赖.tmp/embeddings下的metadata.csv统计嵌入数量，若文件缺失，手动创建包含维度和数量信息的元数据文件：

  filename,dimension,count
  00000.npy,768,7
  

  注：dimension需匹配你的模型嵌入维度，count为实际生成的嵌入数量
• 强制重新生成嵌入
  删除.tmp/embeddings下的所有文件，重新运行脚本，避免缓存或不完整文件干扰。

本地GPU环境：AssertionError: Torch not compiled with CUDA enabled 异常 #

问题重现 #

本地有GPU，但调用.cuda()时触发PyTorch未编译CUDA的错误。

解决方案 #

• 重新安装带CUDA支持的PyTorch
  先通过nvcc --version查看本地CUDA版本，再安装对应版本的PyTorch：

  # 示例：适配CUDA 11.8版本的安装命令
  pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
  

• 验证CUDA可用性
  安装完成后，运行以下代码确认PyTorch已启用CUDA：

  import torch
  print(torch.cuda.is_available())  # 输出True则表示CUDA正常启用
  

• 排查虚拟环境隔离问题
  确保在正确的虚拟环境中安装PyTorch，避免全局环境与虚拟环境的PyTorch版本冲突。

内容的提问来源于stack exchange，提问作者Zahin Mohammad