关于两次训练分类器的疑问：是否会覆盖原有分类器或仅完成一次训练？

嘿，这俩问题问到点子上了！实际做机器学习项目时，不小心重复跑训练脚本太常见了，我结合日常用的主流框架和实践给你掰扯清楚：

1. 对分类器进行两次训练会产生何种结果？ #

结果得看你用的是什么类型的模型，以及训练的设置：

• 迭代式优化的模型（比如神经网络、带SGD的逻辑回归）：
  第一次训练已经让模型参数学到了训练数据的部分规律，第二次训练如果接着用同一批数据，相当于在第一次的基础上继续迭代优化——比如第一次训了10轮，第二次再训10轮，就等效于一口气训20轮。要是第二次用的是新数据，模型会在原有“知识”的基础上学习新的数据分布，运气好能提升泛化能力，要是新数据和原数据差异太大，也可能把之前学的东西冲乱，导致过拟合。
• 一次性训练的模型（比如朴素贝叶斯、默认设置的决策树）：
  这类模型的训练是一次性计算统计量或者构建树结构，两次训练相当于完全重新训了个新模型——除非你用的训练数据、随机种子完全一模一样，否则两次训出来的模型参数、效果大概率不一样。

2. 两次训练分类器时，是会覆盖已有的分类器，还是仅实际完成一次训练？ #

这个得看你怎么调用训练方法，以及用的框架：

• 默认情况（绝大多数框架）：第二次训练会直接覆盖原有模型的参数。比如你在scikit-learn里初始化了一个LogisticRegression()实例，第一次调用clf.fit(X_train, y_train)训完，再调用一次clf.fit(X_new, y_new)，原来的模型参数会被第二次的结果彻底替换，最后你拿到的就是第二次训出来的模型，第一次的成果直接没了。
• 增量训练模式：要是你特意用了框架的增量训练接口（比如scikit-learn里的partial_fit()方法，或者PyTorch里不重新初始化参数直接继续训练），那第二次训练不会覆盖，而是在原有参数的基础上接着更新，相当于两次训练是连续的一个过程。
• 独立实例训练：如果你每次训练都重新创建一个新的分类器对象（比如每次都写clf = LogisticRegression()），那两次训练完全独立，两个模型各自存在，互相不影响，自然也不存在覆盖的问题。

内容的提问来源于stack exchange，提问作者SkyLine