TensorRT引擎大批次/长序列运行时cuStreamSynchronize非法内存访问错误排查

• 检查显存占用与设备限制
  大批次+长序列组合会瞬间占用极高显存，即便设置了动态轴最大值，实际运行时可能超过GPU显存上限或TensorRT内存分配阈值。用nvidia-smi实时监控显存，或在代码中添加显存使用日志，确认是否是OOM触发的间接非法内存访问（部分场景下OOM不会直接报错，而是抛出内存访问错误）。

• 调整TensorRT引擎构建参数

  • 增大工作区内存：builder.set_memory_pool_limit(trt.MemoryPoolType.WORKSPACE, 16 << 30)（根据GPU显存调整，比如16GB workspace），给TensorRT更多临时计算空间。
  • 优化精度与类型设置：若当前用FP16，先切换到FP32测试builder.clear_flag(trt.BuilderFlag.FP16)，排查是否是精度转换导致的内存越界；或开启builder.set_flag(trt.BuilderFlag.STRICT_TYPES)强制类型一致性。
  • 合理设置动态轴梯度：调整profile.set_shape的最小、最优、最大值，比如设为最小(1,128)、最优(4,2048)、最大(128,8192)，避免跨度太大导致TensorRT分配的内存块不匹配。

• 验证ONNX模型与输入的轴对齐
  确认执行引擎时的输入shape和构建引擎时的动态轴定义完全一致，比如batch和seqlen的维度顺序是否正确，有没有出现维度错位。在代码中打印输入tensor的shape，和引擎的输入shape做对比。

• 规范PyCUDA内存管理
  非法内存访问常和显存分配/释放不规范有关：

  • 确保输入输出的device buffer用cuda.mem_alloc分配，大小严格等于trt.volume(shape) * trt.element_size(dtype)，不要手动计算字节数导致偏差。
  • 循环推理时复用buffer，避免重复分配或未正确释放内存。
  • 检查cuda.memcpy_htod_async和cuda.memcpy_dtoh_async的参数，确保src和dst内存范围不重叠，且stream参数正确传递。

• 排查版本兼容性
  部分旧版TensorRT在处理长序列Transformer模型时存在内存分配bug，尝试升级到最新稳定版（如8.6+），或降级到已知兼容版本，同时确保CUDA、cuDNN版本与TensorRT版本匹配。

内容的提问来源于stack exchange，提问作者user26615012