如何保证齐次坐标下的向量经MVP逆转置变换后仍为向量？

核心问题 #

你对法线变换的矩阵选择有误：法线变换不应该使用包含透视投影的完整MVP矩阵，原因如下：

• 法线仅用于光照计算，只需要变换到视图空间/世界空间即可，不需要投影到裁剪空间
• 透视投影矩阵不属于仿射变换，其逆转置后必然会打破4×4矩阵最后一行前3项为0的约束，导致方向向量变换后w分量不为0，失去向量属性

调整方法 #

方案1（推荐，适用于99%的渲染场景） #

拆分MVP矩阵，仅对模型矩阵+视图矩阵的组合（即MV矩阵）求逆转置作为法线变换矩阵，修改代码如下：

// 原有代码保留
Mat<4, 4> modelMatrix = Mat<4, 4>::identity();
Mat<4, 4> viewMatrix = View(camera.position);
Mat<4, 4> projectionMatrix = Projection(-0.1, -50, camera.fov, camera.aspectRatio);
Mat<4, 4> mvp = projectionMatrix * viewMatrix * modelMatrix;

// 新增法线矩阵计算逻辑，仅使用不含投影的MV矩阵
Mat<4, 4> mv = viewMatrix * modelMatrix;
Mat<4, 4> mvpInverseTranspose = mv.Inverse().Transpose();

模型视图矩阵仅包含平移、旋转、缩放三类仿射变换，其逆转置后天然满足最后一行前3项为0的要求，方向向量变换后w分量会保持为0。

方案2（仅适用于需要在裁剪空间计算法线的特殊场景） #

如果业务逻辑确实需要将法线变换到裁剪空间，可以在用法线矩阵变换完齐次坐标后，手动将结果的w分量置为0即可。该方案通用性差，不推荐使用。

内容的提问来源于stack exchange，提问作者Veasky