已知新坐标系正交归一x、y轴，推导SO(3)旋转矩阵第三列的唯一性问题

嘿，这个问题问得特别关键，刚好触及了SO(3)（特殊正交群）和普通正交群O(3)的核心区别！

先给你理清楚整个逻辑：

• 首先，你观察到“有两个相反的z轴解”是对的——从正交矩阵的基本性质来看，第三列只需要满足和前两列都正交、且是单位向量，那在3维空间里，满足这个条件的向量确实只有两个：$\boldsymbol{z}_1$ 和 $\boldsymbol{z}_2 = -\boldsymbol{z}_1$，它们在同一条直线上，方向相反。
• 但别忘了，我们要找的是SO(3)里的旋转矩阵，它比普通正交矩阵多了一个硬性约束：行列式必须等于1。这是旋转矩阵的核心属性——它代表的是刚体的纯旋转，没有镜像反射操作。

那怎么用这个约束锁定唯一解呢？
我们可以用3维矩阵的行列式性质：3x3矩阵的行列式等于其三个列向量的标量三重积，也就是第一列叉乘第二列，再和第三列做点积，公式是：
$$\det(R) = \boldsymbol{x}{\text{new}} \cdot (\boldsymbol{y}{\text{new}} \times \boldsymbol{z}_{\text{new}})$$

因为$\boldsymbol{x}{\text{new}}$和$\boldsymbol{y}{\text{new}}$是正交归一的，它们的叉乘$\boldsymbol{x}{\text{new}} \times \boldsymbol{y}{\text{new}}$本身就是一个和前两列都正交的单位向量。如果我们把第三列取成这个叉乘结果：
$$\boldsymbol{z}{\text{new}} = \boldsymbol{x}{\text{new}} \times \boldsymbol{y}{\text{new}}$$
代入行列式公式，得到的结果是$(\boldsymbol{x}{\text{new}} \times \boldsymbol{y}{\text{new}}) \cdot (\boldsymbol{x}{\text{new}} \times \boldsymbol{y}{\text{new}}) = |\boldsymbol{x}{\text{new}} \times \boldsymbol{y}_{\text{new}}|^2 = 1$，完美满足SO(3)行列式为1的要求。

但如果取相反的方向$\boldsymbol{z}{\text{new}} = -\boldsymbol{x}{\text{new}} \times \boldsymbol{y}_{\text{new}}$，代入后行列式就会变成$-1$，这时候矩阵属于O(3)（正交群），但不属于SO(3)——它代表的是反射变换，不是我们要的刚体旋转。

再结合你的直觉：平时我们定义坐标系默认用右手定则——伸出右手，四指从x轴指向y轴，大拇指的方向就是z轴，这正好对应叉乘的结果。如果取相反方向，就变成了左手系，这已经不是单纯的旋转操作了。

所以结论很明确：在SO(3)的约束下，旋转矩阵的第三列是唯一的，就是前两列的叉乘结果$\boldsymbol{x}{\text{new}} \times \boldsymbol{y}{\text{new}}$，另一个相反的解不符合旋转矩阵的定义。

备注：内容来源于stack exchange，提问作者HOJUN LEE