DirectX HLSL实现OpenGL GLSL mat3*vec3等价运算的结果异常问题

这个问题的核心是OpenGL和HLSL在向量/矩阵乘法的默认约定上的差异，具体来说是向量的存储方式（列向量vs行向量）以及对应的乘法顺序规则，导致你手动实现的计算逻辑和OpenGL原生行为不匹配。

为什么会出现差异？ #

• OpenGL默认使用列向量：当你写mat3 * vec3时，是3x3矩阵乘以3x1的列向量。由于OpenGL的mat3是列主序存储（mat[0]代表矩阵的第一列），实际计算逻辑是用矩阵的列分量和向量的对应分量相乘后累加，得到结果的每个分量。
• HLSL默认使用行向量：HLSL中float3x3 * float3会报错，因为它默认要求向量在乘法左侧（行向量×矩阵）。你之前的手动计算是把矩阵的每一行和向量做点积，这对应HLSL原生的行向量×矩阵逻辑，和OpenGL的列向量×矩阵正好相反，结果自然不一致。

两种解决方案 #

方案1：用HLSL原生语法实现等价逻辑

不需要手动计算，直接利用HLSL的矩阵转置和乘法规则，就能和OpenGL的结果对齐：

// 等价于OpenGL的 mat3 * vec3
float3 somevariable = no * transpose(ca);

这里的transpose(ca)把你的列主序矩阵转置为行主序，让行向量no和它相乘时，结果和OpenGL的列向量×矩阵完全一致。

方案2：修正手动计算的代码

如果你还是想手动实现计算逻辑，需要按照OpenGL的列向量乘法规则来写，也就是用矩阵的列分量和向量的对应分量相乘后累加：

float3 somevariable = float3(
    ca[0].x * no.x + ca[1].x * no.y + ca[2].x * no.z,
    ca[0].y * no.x + ca[1].y * no.y + ca[2].y * no.z,
    ca[0].z * no.x + ca[1].z * no.y + ca[2].z * no.z
);

这个写法完全复刻了OpenGL中mat3 * vec3的计算过程，结果会和原代码一致。

内容的提问来源于stack exchange，提问作者Admin9 XilluteStudios