如何解决倾斜堆叠笔状细长物体密集场景下YOLOv5检测失效问题

1. 数据集与标注优化 #

• 修正标注规则：每个标注框仅包裹对应单支笔的最小轴对齐外接矩形，无需刻意避免框与框之间的重叠，仅需保证每个框仅对应唯一目标、无多余包含其他目标的冗余区域即可。
• 补充针对性训练数据：额外标注30%以上的倾斜堆叠场景样本，也可通过合成方式生成堆叠样本：将单支笔的裁剪图像按不同倾斜角度随机堆叠，自动生成对应标注框，快速扩充密集场景训练集。
• 添加强化数据增强策略：训练时开启随机旋转、透视变换、随机遮挡、MixUp/Mosaic增强，其中Mosaic增强的比例可上调至默认值的1.5倍，强制模型学习部分被遮挡的笔的特征。

2. 模型训练参数调整 #

• 调整正样本匹配逻辑：将YOLOv5配置中的anchor_t参数从默认值4上调至5-6，允许重叠率更高的标注框被匹配为正样本，避免堆叠场景下的目标被漏匹配。
• 更换损失函数：将默认的CIoU边界框回归损失替换为EIoU或SIoU，提升细长型、重叠物体的边界框回归精度。
• 优化检测头配置：新增小目标检测头，或者直接切换为YOLOv8/YOLOv7的小目标优化版本，这类新版本模型对重叠密集目标的检测能力明显优于原生YOLOv5。

3. 后处理逻辑优化 #

• 调整NMS配置：将NMS的IoU阈值从默认的0.45上调至0.7-0.8，避免相邻笔的高重叠检测框被误过滤；同时可将置信度阈值回调到0.25-0.4的常规区间，避免高置信度阈值过滤掉遮挡目标的有效检测结果。
• 替换默认NMS：改用Soft-NMS或WBF（加权框融合）替代原生NMS，这类后处理算法对密集重叠目标的保留效果更好，可大幅降低堆叠场景的漏检率。
• 增加单类特征校验：基于笔类的固定宽高比范围，添加后处理过滤规则，剔除宽高比不符合笔类特征的误检框，降低误检率。

内容的提问来源于stack exchange，提问作者M.Akyuzlu