3D平面内点是否在三角形内：为何需用叉积而非点积？

问题背景 #

Scratchapixel给出的平面内点在三角形内的检测伪代码如下：

Vec3f edge0 = v1 - v0;
Vec3f edge1 = v2 - v1;
Vec3f edge2 = v0 - v2;
Vec3f C0 = P - v0;
Vec3f C1 = P - v1;
Vec3f C2 = P - v2;
if (dotProduct(N, crossProduct(edge0, C0)) > 0 && 
    dotProduct(N, crossProduct(edge1, C1)) > 0 &&
    dotProduct(N, crossProduct(edge2, C2)) > 0) return true; // P is inside the triangle

有人提出简化方案，仅通过边向量与点到顶点向量的点积判断：

Vec3f edge0 = v1 - v0;
Vec3f edge1 = v2 - v1;
Vec3f edge2 = v0 - v2;
Vec3f C0 = P - v0;
Vec3f C1 = P - v1;
Vec3f C2 = P - v2;
if (dotProduct(edge0, C0) > 0 && 
    dotProduct(edge1, C1) > 0 &&
    dotProduct(edge2, C2) > 0) return true;

疑惑点：点积计算成本更低却未被广泛采用，猜测是否遗漏了边缘情况。

点积方案的致命缺陷 #

这个简化方案完全无法正确判断点是否在三角形内，核心原因是点积的条件根本无法约束点在三角形的闭合区域内：

点积dot(edgeX, CX) > 0仅能说明两个向量的夹角为锐角或直角，只能限制点落在顶点处某条半平面内，但完全无法对应“在三角形内侧”的逻辑。

举个实际反例：
设三角形顶点为v0(0,0)、v1(2,0)、v2(0,2)，取点P(3,1)：

• edge0 = (2,0)，C0 = (3,1)，点积=23 + 01 = 6 > 0
• edge1 = (-2,2)，C1 = (1,1)，点积=(-2)1 + 21 = 0 > 0
• edge2 = (0,-2)，C2 = (3,-1)，点积=03 + (-2)(-1) = 2 > 0

三个点积都满足大于0的条件，但P(3,1)明显在三角形外部，直接证明了点积方案的错误。

原方法的正确逻辑 #

原方法的核心是同向性检测：

1. crossProduct(edge0, C0)的结果是垂直于三角形平面的向量，其方向可以判断点P相对于边edge0（v0→v1）的位置——是在边的左侧还是右侧（以顶点排列顺序为基准）。
2. 与三角形法线N做点积，是为了统一判断标准：不管三角形顶点是顺时针还是逆时针排列，都能通过法线方向确定点是否在所有边的“内侧”（即三角形的内部区域）。

只有当点在所有边的同一侧（内侧）时，才能判定点在三角形内，这才是正确的检测逻辑。

内容的提问来源于stack exchange，提问作者Carpetfizz