如何在聚类任务中消除不良特征的影响？

在不少机器学习聚类任务里，我们都会把待分析的对象转化为特征向量 X 来开展聚类工作。但经常会遇到这样的需求：我们希望 X 中的某一类特征（记作 X₁）完全不影响最终的聚类结果。

• 直接移除 X₁ 往往行不通：因为这类特征通常和其他未被明确识别的特征存在强关联，就算删掉 X₁，那些隐藏的相关性还是会把它的影响残留到聚类过程中，没法彻底消除。
• 更有效的思路是主动引入 X₁：通过针对性的建模方式，我们可以主动利用 X₁ 来抵消它对聚类结果的干扰，而不是简单地把它排除在外。

我自己的研究重点就聚焦在自然语言处理领域的 词袋模型 场景中，在这类文本聚类任务里，这种“主动引入干扰特征以消除其影响”的方法，能很好地解决因无关文本特征带来的聚类偏差问题。

内容的提问来源于stack exchange，提问作者Benoit Sanchez