YOLOv8 3类检测模型输出维度异常：(1,7,8400)而非(1,8,8400)

核心原因 #

你的情况属于模型元数据显示nc=3，但实际检测头权重未正确适配3类目标，本质是训练时检测头没有被重新初始化，仍保留了错误的通道数配置（对应nc=2的7通道输出）。

解决步骤 #

1. 强制构建适配nc=3的模型结构 #

直接使用预训练权重（model=yolov8x）训练时，偶尔会出现检测头通道数未被正确替换的情况，改用自定义yaml配置文件构建模型：

• 复制官方YOLOv8x的yaml配置内容到本地，修改其中的nc: 80为nc: 3，保存为custom_yolov8x.yaml。
• 训练时指定该yaml文件，并添加pretrained=False确保完全从头初始化：

yolo detect train \
    data=path/to/data.yaml \
    model=path/to/custom_yolov8x.yaml \
    epochs=1000 \
    imgsz=640 \
    device=1 \
    patience=100 \
    pretrained=False

2. 验证检测层的真实配置 #

训练完成后，用以下代码检查检测头的实际输出通道数，确认是否为预期的8（5个基础参数+3类概率）：

from ultralytics import YOLO

model = YOLO("best.pt").model
# 遍历模型模块，定位检测头
for module in model.modules():
    if hasattr(module, 'nc') and hasattr(module, 'out_channels'):
        print(f"检测头配置nc: {module.nc}, 实际输出通道数: {module.out_channels}")

如果输出的out_channels仍为7，说明训练时检测头未被正确修改，需重新执行步骤1。

3. 清理Ultralytics缓存 #

旧的预训练模型缓存可能干扰新模型的初始化，删除缓存目录后重新训练：

# Linux/macOS
rm -rf ~/.ultralytics/

# Windows
rd /s /q %USERPROFILE%\.ultralytics

4. 确认训练日志的nc配置 #

查看训练启动时的日志，确认是否打印了正确的数据集配置：

Dataset 'path/to/data.yaml' images: XXXX, labels: XXXX, nc: 3, names: ['glioma', 'meningioma', 'pituitary']

如果日志中显示的nc不是3，说明data.yaml路径错误或未被正确加载，需再次检查文件路径和内容。

额外验证 #

用模型的predict方法测试，确认输出结果是否能识别3类目标：

from ultralytics import YOLO
import torch

model = YOLO("best.pt")
dummy_input = torch.randn(1, 3, 640, 640)
results = model.predict(source=dummy_input, save=False)
print(f"模型支持的类别数: {len(results[0].names)}")
print(f"预测结果的类别索引: {results[0].boxes.cls}")

内容的提问来源于stack exchange，提问作者BoofKoor