使用torchvision.ops.roi_align遇SIGSEGV错误，求解决方案

这个SIGSEGV（段错误）确实挺头疼的，我之前排查过类似问题，结合你的环境（torch-1.2、python-3.7）和尝试过的版本，给你几个针对性的解决方向：

• 优先修正PyTorch与TorchVision的版本兼容性
  你之前尝试的torchvision-0.5、0.6和torch-1.2并不匹配，版本不兼容是触发底层内存错误的常见原因。torch-1.2对应的稳定兼容版本是torchvision-0.4.0，建议先卸载现有torchvision，重新安装匹配版本：

  pip uninstall -y torchvision
  pip install torchvision==0.4.0
  

  如果是CUDA环境，确保安装的torchvision是对应CUDA版本的预编译包（比如CUDA10.0版本的torch1.2，torchvision0.4.0也会自动匹配）。

• 检查ROI Align的输入合法性
  段错误也可能是输入数据格式错误导致的内存越界，你可以验证以下几点：

  • 输入的boxes必须是形状为[N, 4]的Tensor，每个元素是(x1, y1, x2, y2)的坐标，且坐标值要在特征图/图像的尺寸范围内（不能出现负数、NaN或超出边界的数值）；
  • 确保feature_map和boxes的设备一致（比如都在GPU上，或都在CPU上），避免跨设备操作触发底层错误；
  • 检查output_size、sampling_ratio等参数是否符合要求，比如output_size不能是负数。

• 切换到CPU环境测试
  如果当前是GPU环境报错，先把模型和数据都转到CPU上运行测试：

  feature_map = feature_map.cpu()
  boxes = boxes.cpu()
  roi_output = torchvision.ops.roi_align(feature_map, boxes, output_size=(7,7))
  

  如果CPU上运行正常，说明问题出在CUDA环境兼容性上：

  • 检查你的CUDA版本是否和torch-1.2匹配（torch-1.2官方支持CUDA9.2、10.0），如果CUDA版本过高（比如10.1+），可能会触发底层CUDA API调用错误；
  • 尝试更新GPU驱动到对应CUDA版本的兼容版本。

• 从源码编译匹配版本的TorchVision
  如果预编译的torchvision包仍然有问题，可以尝试从对应版本的源码编译，确保和本地PyTorch、CUDA完全适配：

  1. 克隆torchvision v0.4.0的源码；
  2. 进入源码目录，执行编译安装：

     python setup.py install
     

  编译前确保安装了cmake、numpy等依赖。

• 排查内存不足问题
  段错误也可能是内存耗尽导致的，你可以尝试：

  • 减小batch size，或者缩小输入图像/特征图的尺寸；
  • 清理GPU缓存（torch.cuda.empty_cache()）后再运行测试。

内容的提问来源于stack exchange，提问作者南琴歌