微小纤维目标定向边界框训练：YOLOv5OBB性能不佳求优化方案

问题描述 #

我有一组微小纤维目标数据集，共120张图像、1200个目标，尝试用YOLOv5OBB检测但结果不理想：精确率P=0.3、召回率R=0.28，边界框拟合度差且不同方向框体常重叠。这类纤维直径小于3微米、长度大于5微米，不能用缩放、剪切等改变目标尺寸的增强手段，平移、马赛克会导致目标截断，同样不可用。需要hyp参数调整建议或替代模型/方法。

当前hyp参数 #

lr0: 0.00258
lrf: 0.017
momentum: 0.779
weight_decay: 0.00058
warmup_epochs: 1.93
warmup_momentum: 0.443
warmup_bias_lr: 0.059
box: 0.0339
cls: 0.33
cls_pw: 0.825
theta: 0.299
theta_pw: 0.825
obj: 0.632
obj_pw: 1.0
iou_t: 0.2
anchor_t: 3.44
anchors: 2.5
fl_gamma: 0.0
hsv_h: 0.0188
hsv_s: 0.354
hsv_v: 0.35
degrees: 0.03
translate: 0.05
scale: 0.02
shear: 0.0
perspective: 0.0
flipud: 0.7
fliplr: 0.7
mosaic: 0.0
mixup: 0.5
copy_paste: 0.4
cls_theta: 180
csl_radius: 2.0

hyp参数调整建议 #

• 提升框与角度损失权重：当前box和theta权重偏低，无法让模型聚焦于旋转框的拟合精度。建议将box调至0.1_{0.2，`theta`调至0.5}0.8，强化旋转框的位置与角度回归能力。
• 上调IOU阈值：iou_t=0.2会纳入大量低质量预测框，导致精确率低下。建议上调至0.3~0.4，过滤无效正样本，减少误检。
• 增强目标置信度损失：将obj从0.632提升至0.8~1.0，强化模型对目标存在性的判断，降低背景误判概率。
• 优化学习率：小数据集下lr0=0.00258易导致模型震荡，建议下调至0.001_{0.002；同步将`lrf`调整为0.01}0.015，保证学习率平稳衰减。
• 调整数据增强策略：mixup=0.5和copy_paste=0.4易造成目标重叠混淆，先将mixup降至0.1~0.2，copy_paste设为0.0；保留上下/左右翻转（flipud、fliplr），这类增强不会破坏目标完整性。
• 重新计算锚框：anchors=2.5可能不匹配微小纤维的长宽比，使用YOLOv5自带的autoanchor工具重新计算数据集锚框，生成适配纤维形态的锚框，提升召回率。

替代模型/方法 #

• YOLOv8-OBB：YOLOv8的旋转框模块对小目标适配性更强，训练策略更成熟，可直接迁移数据集训练，无需复杂调整。
• Swin-Transformer OBB：Transformer架构对小目标特征提取能力优于CNN，适合细长三角状的微小纤维检测，但训练资源需求较高。
• 传统机器视觉方案：结合阈值分割、骨架提取、霍夫直线变换拟合旋转框，对于形态规则的纤维，可作为深度学习方法的补充，提升检测稳定性。

内容的提问来源于stack exchange，提问作者Ahmad Rabiee