关于高维空间中超平面相交概率及SVM高维投影可分性的几何验证问询
关于高维空间中超平面相交概率及SVM高维投影可分性的几何验证问询
先跟大家说下背景:我没系统学过高维几何,但最近在学统计数据科学,里面好多方法都依赖高维空间的性质。
在**支持向量机(SVM)**分类任务里,核心目标是找到一个超平面,把n维的数据点(也就是向量)精准分成带标签的两组,然后用这个分隔面去预测新数据。SVM在二分类场景里表现尤其好。
但有时候,n维空间里根本不存在这样的超平面——尤其是当n很小的时候,比如2维或3维,这种情况特别常见。针对这个问题,有个挺有意思的解决思路:给每个数据点随机分配一个额外维度的值。举个例子,原本是2维空间的话,给每个点加个随机z值,把2维空间转换成3维空间,这样就更有可能找到能把数据完美分开的超平面了。
我一直在琢磨这个方法到底有多有效,想了挺久之后,我得出一个结论:如果把数据投影到K+2维空间(这里K是最大那个数据簇的规模),那应该就能保证一定存在一个超平面可以把数据分成两类。
我的推理过程是这样的:
- 假设在n+1维空间里有n个点,而且任意3个及以上的点都不共线(或者说,任意n+1个点都不在n维的同一个平面上),那这些点就能唯一确定一个n维超平面。
- 在K+2维空间里,如果嵌入了K个维度小于K的超平面,那这些超平面相交的概率是0。
这两个结论我直觉上觉得是对的,但完全不知道该怎么去验证这个推理。我能拿出来支撑的只有直觉和一些简单的试错——比如2维空间里两个点重合的概率是0,3维空间里两条直线相交的概率也是0。可让我头疼的是,这个推理和我的直觉没法推广到更高维度的情况。
所以想请教大家:有没有人能证明(或者推翻)我的这个结论?或者能不能告诉我这属于几何的哪个分支?哪怕只是教我怎么把这个问题用更正式的数学语言表述出来也行!
备注:内容来源于stack exchange,提问作者Evan McCormick
相关产品推荐
相关产品推荐

