OpenGL鼠标拾取问题：射线与球体相交时包围球位置偏移

嘿，这个问题我之前做OpenGL拾取功能时也踩过一模一样的坑！核心确实出在矩阵变换上——当相机离开原点后，你的拾取射线和网格包围球没在同一个坐标系里做计算，自然会出现位置偏移。我给你拆解下关键步骤和解决方案：

核心问题：坐标系不统一 #

OpenGL鼠标拾取的关键是让拾取射线和网格包围球处于同一个空间（比如世界空间）进行相交检测。当相机在原点时，相机空间和世界空间完全重合，所以你没做额外变换也能正常工作；但相机移动后，视图矩阵改变了相机空间与世界空间的映射关系，这时候就必须通过矩阵逆变换来对齐坐标系。

具体修复步骤 #

1. 把屏幕鼠标坐标转成世界空间的拾取射线 #

你需要经过两次逆矩阵变换来完成坐标转换：

• 第一步：屏幕坐标 → 标准化设备坐标（NDC）
  注意OpenGL的NDC Y轴和屏幕Y轴方向相反，必须翻转Y轴：

  float ndcX = (2.0f * mouseX) / screenWidth - 1.0f;
  float ndcY = 1.0f - (2.0f * mouseY) / screenHeight;
  

• 第二步：NDC → 相机空间射线
  用投影矩阵的逆矩阵把NDC的近平面点（z=-1）和远平面点（z=1）转成相机空间的点，再做齐次除法得到三维坐标：

  glm::vec4 clipNear(ndcX, ndcY, -1.0f, 1.0f);
  glm::vec4 clipFar(ndcX, ndcY, 1.0f, 1.0f);
  glm::mat4 invProj = glm::inverse(projectionMatrix);
  glm::vec3 camNear = glm::vec3(invProj * clipNear) / (invProj * clipNear).w;
  glm::vec3 camFar = glm::vec3(invProj * clipFar) / (invProj * clipFar).w;
  

• 第三步：相机空间射线 → 世界空间射线
  用视图矩阵的逆矩阵把相机空间的射线起点（相机原点(0,0,0)）和方向（camFar - camNear）转成世界空间：

  glm::mat4 invView = glm::inverse(viewMatrix);
  glm::vec3 rayOrigin = glm::vec3(invView * glm::vec4(0.0f, 0.0f, 0.0f, 1.0f)); // 世界空间的相机位置
  glm::vec3 rayDir = glm::normalize(glm::vec3(invView * glm::vec4(camFar - camNear, 0.0f)));
  

2. 把网格包围球转成世界空间 #

你的包围球大概率是在模型空间里定义的（比如以网格自身中心为原点），这时候需要用模型矩阵把它变换到世界空间：

• 包围球中心：用模型矩阵乘以模型空间中心（注意用齐次坐标w=1）
• 包围球半径：如果模型有缩放，要取模型矩阵缩放分量的最大值乘以原半径（非均匀缩放时，半径要按最大缩放比例放大，否则会出现漏检）

  glm::vec3 modelSphereCenter = ...; // 你的模型空间包围球中心
  float modelSphereRadius = ...;
  // 转换为世界空间中心
  glm::vec3 worldSphereCenter = glm::vec3(modelMatrix * glm::vec4(modelSphereCenter, 1.0f));
  // 计算最大缩放因子
  float scaleX = glm::length(glm::vec3(modelMatrix[0]));
  float scaleY = glm::length(glm::vec3(modelMatrix[1]));
  float scaleZ = glm::length(glm::vec3(modelMatrix[2]));
  float maxScale = glm::max(glm::max(scaleX, scaleY), scaleZ);
  float worldSphereRadius = modelSphereRadius * maxScale;
  

3. 统一空间后做相交检测 #

现在拾取射线和包围球都处于世界空间了，直接用标准的射线-包围球相交算法检测即可：

bool raySphereIntersect(glm::vec3 rayOrigin, glm::vec3 rayDir, glm::vec3 sphereCenter, float sphereRadius) {
  glm::vec3 oc = rayOrigin - sphereCenter;
  float a = glm::dot(rayDir, rayDir);
  float b = 2.0f * glm::dot(oc, rayDir);
  float c = glm::dot(oc, oc) - sphereRadius * sphereRadius;
  float discriminant = b * b - 4 * a * c;
  return discriminant >= 0;
}

常见错误排查 #

• 忘记使用逆视图矩阵：直接用相机空间的射线去检测世界空间的包围球，坐标系不匹配必然出现偏移
• 包围球未做模型变换：模型空间的包围球位置和世界空间的射线不在同一维度，肯定测不准
• Y轴翻转错误：屏幕Y轴是从上到下，OpenGL NDC Y轴是从下到上，这一步出错会导致拾取位置上下颠倒

内容的提问来源于stack exchange，提问作者Emil Gustafsson