YOLOv8n PyTorch与转换后CoreML模型目标检测性能不一致问题咨询

1. YOLOv8n中已知的CoreML兼容性问题点 #

• NMS层差异：CoreML的NMS实现与PyTorch原生NMS存在细节区别，包括置信度阈值过滤逻辑、IOU计算方式，即使导出时指定nms=True，也可能出现结果偏差，极端情况导致无检测框输出。
• 激活函数转换：SiLU（Swish）激活函数在早期coremltools版本中可能被转换为近似实现，而非原生算子，会造成精度损失。虽然Ultralytics已做适配，但部分场景下仍可能存在差异。
• 动态维度支持：YOLOv8默认支持动态输入尺寸，但CoreML在处理动态维度时，尤其在iOS旧版本系统上，可能存在兼容性问题，导致推理结果不稳定。
• 后处理逻辑迁移：YOLOv8的PyTorch后处理包含锚框解码、多尺度融合等步骤，若转换时这些逻辑未完全映射到CoreML算子，会直接影响最终检测结果。

2. 调试性能差异的推荐步骤 #

• 验证输入预处理一致性
  • 对比PyTorch与CoreML模型的输入流程：检查图像归一化规则（YOLOv8默认是将像素值除以255）、缩放填充方式（是否保持宽高比、填充区域的像素值）、通道顺序（PyTorch为CHW，CoreML在iOS端为HWC，确认转换时是否自动完成格式转换）。
  • 取同一张测试图，分别输出PyTorch模型的输入张量和CoreML模型的输入张量，逐元素对比是否一致。
• 对比中间层输出
  • 提取PyTorch模型关键层（如Backbone最后一层、Neck的输出、Head的原始预测输出）的张量值，再用coremltools在Mac上运行CoreML模型，获取对应层的输出，对比二者的差异，定位偏差起始的层级。
• 隔离后处理逻辑
  • 导出CoreML模型时关闭内置NMS（nms=False），将CoreML输出的原始预测张量，用PyTorch的后处理代码（锚框解码、NMS）处理，看结果是否与原模型一致，以此判断是模型转换问题还是后处理差异。
  • 确认原模型与CoreML模型的NMS参数（置信度阈值conf、IOU阈值iou）完全相同。
• 尝试静态尺寸导出
  • 导出时指定固定输入尺寸，例如：

    model.export(format='coreml', nms=True, imgsz=640)
    

    避免动态维度带来的兼容性问题，测试静态尺寸下的检测效果。
• 检查转换环境与日志
  • 确保coremltools版本与当前YOLOv8版本匹配，避免因版本不兼容导致的转换错误。
  • 导出时查看控制台日志，重点关注警告信息（如“层被转换为近似实现”“不支持的操作被替换”），这些警告通常是性能差异的根源。
  • 尝试添加strict=True参数导出，强制严格模式，检查是否有未被正确转换的算子：

    model.export(format='coreml', nms=True, strict=True)
    

• 测试不同部署环境
  • 在不同iOS/MacOS版本的设备上测试CoreML模型，旧系统可能对某些CoreML特性（如动态形状、新算子）支持不足，导致性能下降。

内容的提问来源于stack exchange，提问作者Sajjad Sarkoobi