使用GridSearchCV与SVC训练猫狗分类模型时内存占用过高的原因

一、内存骤升并冻结的原因 #

• 高维度特征的内存压力：你使用的470×320是彩色图片，扁平化后单张图的特征数为 470*320*3 = 451200，2000张图转换成NumPy数组后，仅data数组的内存占用就约为3.4GB（按float32格式计算）。执行GridSearchCV.fit()时，默认会做5折交叉验证，再加上你设置的3种gamma和4种C，总共要训练 5*3*4=60 个SVC模型，内存需求会进一步飙升。
• SVM核矩阵的额外开销：默认的RBF核SVC训练时需要构建核矩阵，大小为样本数×样本数。你的X_train有1600个样本，单个核矩阵就需要约10MB内存，60个模型的核矩阵、参数存储及中间计算数据叠加，会瞬间占满剩余内存，导致系统冻结。

二、小尺寸图片训练缓慢的原因 #

• SVM的时间复杂度特性：RBF核SVM的训练时间复杂度为O(n²)到O(n³)（n为样本数），特征数越多，核函数计算耗时也会线性增加。即使缩到170×100（特征数170*100*3=51000），单个SVC模型的核函数计算量依然很大，再乘以GridSearch的60次训练，总计算量会非常庞大，跑数小时完全符合预期。
• 缺少特征归一化的影响：SVM对特征尺度极其敏感，你未对像素值做归一化（比如缩放到0-1或-1-1），会导致核函数计算时数值范围差异过大，进一步增加计算耗时，同时还会影响模型精度。

内容的提问来源于stack exchange，提问作者Saif eldeen Adel