OpenGL鼠标光标反投影：玩家朝向鼠标旋转问题排查

看起来你在实现俯视视角下玩家朝向鼠标旋转的功能时，遇到了反投影数值异常、方位判断的问题，咱们一步步拆解解决：

一、先修复Unproject方法的核心错误 #

你的Unproject里用矩阵包装向量的方式完全没必要，还容易引入错误。正确的反投影逻辑应该直接用逆视图投影矩阵处理NDC向量，同时要注意坐标系的细节（比如屏幕Y轴方向）。修改后的代码如下：

private bool Unproject(float winX, float winY, float winZ, out Vector3 position) {
    position = Vector3.Zero;
    // 获取视图投影矩阵并求逆
    Matrix4 viewProj = World.CurrentWindow.GetViewMatrix() * World.CurrentWindow.GetProjectionMatrix();
    Matrix4 invViewProj = Matrix4.Invert(viewProj);
    
    // 屏幕坐标转NDC（范围[-1,1]）
    float ndcX = (winX - World.CurrentWindow.X) / World.CurrentWindow.Width * 2f - 1f;
    // 重点：多数API屏幕Y轴向下，这里需要反转以匹配世界Y轴向上的逻辑
    float ndcY = 1f - ((winY - World.CurrentWindow.Y) / World.CurrentWindow.Height * 2f - 1f);
    float ndcZ = 2f * winZ - 1f;
    
    // 构造齐次NDC向量
    Vector4 ndcVector = new Vector4(ndcX, ndcY, ndcZ, 1f);
    
    // 应用逆矩阵（列主序矩阵用矩阵乘向量，行主序则反过来）
    Vector4 worldVector = invViewProj * ndcVector;
    
    // 透视除法
    if (Mathf.Abs(worldVector.W) < 0.0001f) {
        return false;
    }
    float invW = 1f / worldVector.W;
    position = new Vector3(worldVector.X * invW, worldVector.Y * invW, worldVector.Z * invW);
    
    return true;
}

这里的Y轴反转是很多人踩坑的点，也是你反投影结果异常的大概率原因。

二、验证反投影数值的正确性 #

可以用这几种方法快速验证：

• 已知点回测：找一个确定的世界点（比如玩家当前位置playerPos），先把它投影到屏幕空间，再用这个屏幕坐标反投影，看是否能还原出原世界点。投影逻辑是：视图投影矩阵乘世界点→透视除法转NDC→转屏幕坐标。
• 射线可视化：调试时绘制从近平面反投影点到远平面反投影点的射线，看这条射线是否准确指向鼠标在3D世界中的预期位置。
• 距离校验：计算近远平面反投影点的距离，正常情况下应该接近你的远平面减近平面（1000-0.5=999.5），如果结果极小，说明矩阵或坐标转换还有问题。

三、解决finalRay数值极小的问题 #

你当前的射线向量极小，本质是反投影后的近远平面点几乎重合，除了上面修复的Y轴问题，还要检查：

1. 矩阵乘法顺序：如果你的Matrix4是行主序（比如DirectX风格），要改成worldVector = ndcVector * invViewProj。
2. 视图/投影矩阵是否正确：确认投影矩阵的近远平面参数是0.5和1000，视图矩阵的相机位置、朝向是否符合俯视视角的设定。
   修复后记得把射线方向归一化：finalRay.Normalize()，方便后续计算。

四、判断鼠标相对玩家的左右/前后方位 #

首先要把鼠标射线与玩家所在的Y高度平面相交，得到鼠标对应的世界点，再通过向量点积判断方位：

// 假设playerPos是玩家的世界位置
Vector3 playerPos = Player.transform.position;
Vector3 mouseNear, mouseFar;
Unproject(s.X, s.Y, 0f, out mouseNear);
Unproject(s.X, s.Y, 1f, out mouseFar);
Vector3 rayDir = mouseFar - mouseNear;
rayDir.Normalize();

// 计算射线与玩家Y高度平面的交点
if (Mathf.Abs(rayDir.Y) < 0.0001f) {
    // 射线平行于Y平面，无有效交点，做特殊处理（比如保持当前朝向）
    return;
}
float t = (playerPos.Y - mouseNear.Y) / rayDir.Y;
Vector3 mouseWorldPos = mouseNear + rayDir * t;

// 计算玩家到鼠标的平面方向（忽略Y轴）
Vector3 dirToMouse = mouseWorldPos - playerPos;
dirToMouse.Y = 0f;
dirToMouse.Normalize();

// 假设玩家的前方向量是playerForward（比如Z轴正方向），右方向量是playerRight（X轴正方向）
// 前后判断
float dotForward = Vector3.Dot(dirToMouse, playerForward);
if (dotForward > 0f) {
    // 鼠标在玩家前方
} else {
    // 鼠标在玩家后方
}

// 左右判断
float dotRight = Vector3.Dot(dirToMouse, playerRight);
if (dotRight > 0f) {
    // 鼠标在玩家右侧
} else {
    // 鼠标在玩家左侧
}

如果玩家没有存储前/右方向量，可以从它的旋转矩阵中提取（比如变换矩阵的X列是右方向，Z列是前方向）。

五、其他潜在问题提醒 #

1. 屏幕坐标原点：确保World.CurrentWindow.X/Y是窗口左上角的坐标，否则会导致坐标转换偏移。
2. 矩阵求逆的稳定性：如果视图投影矩阵不可逆（比如相机参数异常），会导致反投影失败，建议加日志排查。

内容的提问来源于stack exchange，提问作者3DLearner