撰写CNN相关论文时，如何确定模型准确率及处理波动数据？

Great question—this is a super common, tricky issue when reporting deep learning experiment results, especially with long training runs like your 6000 epochs! Let’s break down what’s acceptable and what’s the standard practice in academia:

首先：别只挑最后10轮的最高准确率 #

单独选取最后10轮里的最高准确率属于**“cherry-picking”（选择性报告）**，这在学术写作里是不严谨的——它会高估模型的真实性能，因为你只展示了运气最好的一次结果，而忽略了模型的稳定性。审稿人很可能会质疑这个选择的合理性。

规范做法分两种场景： #

1. 处理验证集的波动（98%-99%区间震荡） #

验证集后期波动通常是因为模型进入了训练的震荡阶段（比如学习率过高、过拟合边缘，或者训练数据的随机性），这时候你应该：

• 报告最后一段稳定轮次的平均准确率±标准差：比如取最后200轮（或者你观察到模型开始稳定震荡后的连续轮次）的验证集准确率，计算平均值和标准差，写成类似 98.5% ± 0.4% 的形式。这能真实反映模型的稳定性能，而不是单一的极端值。
• 如果用了早停（Early Stopping）策略：直接用触发早停时的验证集准确率（即验证集性能最优的那个epoch的结果），这是最常用的选择最优模型的方式。

2. 解决测试集结果不一致的问题 #

测试集结果波动几乎都是因为训练过程中的随机性（比如权重初始化、数据增强的随机操作、batch shuffle的顺序等），规范的处理方式是：

• 多次独立重复训练：用不同的随机种子跑3-5次完整的训练，每次记录验证集最优模型的测试集准确率，最后报告这几次结果的平均值±标准差，同时可以补充说明最好和最差的结果（比如 98.3% ± 0.5% (range: 97.7%-98.9%)）。这是学术圈最认可的方式，能体现结果的可靠性。
• 如果只能跑一次训练：用验证集准确率最高的那个epoch对应的模型去测试测试集，而不是随便挑测试集里的最高结果。验证集的核心作用就是帮你选择泛化能力最好的模型，所以用这个checkpoint的测试结果才是合理的。

退一步的折中方案（如果坚持用最后10轮数据） #

如果因为某些原因必须用最后10轮的结果，绝对不能只单独写最高准确率。你需要：

• 明确说明这是最后10轮中的最高值
• 同时报告这10轮的平均准确率和标准差，让读者了解模型的波动情况

额外建议 #

对于6000 epochs的长训练，你可以试试随机权重平均（SWA）——这是一种简单的技巧，通过平均最后若干轮的模型权重，能显著提升模型的稳定性和泛化性能，减少验证集和测试集的波动，结果也更可靠。

内容的提问来源于stack exchange，提问作者ohdoughnut