微调Wav2Wav医疗词汇模块时出现混合精度CUDA错误如何解决？

报错原因 #

你在TrainingArguments中配置了fp16=True开启混合精度训练，但当前运行环境没有可用的CUDA设备。Hugging Face Transformers的参数校验逻辑明确要求，fp16混合精度仅支持CUDA设备，无CUDA时会直接抛出该错误。

环境排查步骤 #

• 本地运行场景：执行代码import torch; print(torch.cuda.is_available())，如果返回False，说明本地无NVIDIA显卡，或未正确安装CUDA驱动、匹配CUDA版本的PyTorch依赖。
• Google Colab运行场景：默认实例可能分配CPU/TPU运行时，手动切换GPU即可：点击顶部菜单栏「修改」→「笔记本设置」→「硬件加速器」选择「GPU」，保存后重启实例。

解决方法 #

需保留混合精度训练（训练速度更快） #

确认torch.cuda.is_available()返回True后，无需修改现有代码，直接运行即可。

无CUDA设备适配方案 #

• 普通CPU设备：将配置中的fp16=True改为fp16=False，关闭混合精度即可正常运行，仅训练速度会下降。
• 苹果硅M系列芯片设备：修改配置为fp16=False, bf16=True, use_mps_device=True，调用MPS框架的bf16混合精度能力，训练效率远高于纯CPU运行。

内容的提问来源于stack exchange，提问作者windy_29