求映射原点固定的两个全等三角形的旋转矩阵

嘿，这个问题其实挺典型的，我来给你拆解一下高效的解法～核心思路是利用正交基的变换推导旋转矩阵，毕竟旋转本质就是正交坐标系的变换嘛。

前提确认 #

首先要明确：旋转是保距变换，所以输入的两个三角形必须满足以下条件，否则就不是纯旋转得到的（可能带缩放或剪切）：

• $||\overrightarrow{OA}|| = ||\overrightarrow{OA'}||$
• $||\overrightarrow{OB}|| = ||\overrightarrow{OB'}||$
• $\overrightarrow{OA} \cdot \overrightarrow{OB} = \overrightarrow{OA'} \cdot \overrightarrow{OB'}$

步骤1：构造原三角形对应的正交归一基 #

我们基于原三角形的两条边，构建一个右手正交的单位坐标系：

• 取向量 $\mathbf{a} = (x_1, y_1, z_1)$，归一化得到第一个基向量：$\mathbf{u_1} = \frac{\mathbf{a}}{||\mathbf{a}||}$
• 取向量 $\mathbf{b} = (x_2, y_2, z_2)$，先剔除它在$\mathbf{u_1}$上的投影：$\mathbf{v} = \mathbf{b} - (\mathbf{b} \cdot \mathbf{u_1})\mathbf{u_1}$，再归一化得到第二个基向量：$\mathbf{u_2} = \frac{\mathbf{v}}{||\mathbf{v}||}$
• 用叉乘得到第三个垂直基向量：$\mathbf{u_3} = \mathbf{u_1} \times \mathbf{u_2}$
  把这三个基向量作为列，组成正交矩阵 $U = [\mathbf{u_1} \ \mathbf{u_2} \ \mathbf{u_3}]$（正交矩阵满足 $U^T U = I$）。

步骤2：构造旋转后的正交归一基 #

用完全相同的方法处理旋转后的三角形：

• 向量 $\mathbf{a'} = (x_1', y_1', z_1')$，归一化得 $\mathbf{u_1'} = \frac{\mathbf{a'}}{||\mathbf{a'}||}$
• 向量 $\mathbf{b'} = (x_2', y_2', z_2')$，剔除投影后得到 $\mathbf{v'} = \mathbf{b'} - (\mathbf{b'} \cdot \mathbf{u_1'})\mathbf{u_1'}$，归一化得 $\mathbf{u_2'} = \frac{\mathbf{v'}}{||\mathbf{v'}||}$
• 叉乘得第三个基向量：$\mathbf{u_3'} = \mathbf{u_1'} \times \mathbf{u_2'}$
  组成旋转后的正交矩阵 $U' = [\mathbf{u_1'} \ \mathbf{u_2'} \ \mathbf{u_3'}]$

步骤3：计算旋转矩阵R #

旋转矩阵的作用是把原基变换到新基，满足 $U' = R U$。因为U是正交矩阵，它的逆等于转置，所以：
$$ R = U' U^T $$

验证与特殊情况 #

• 验证：计算 $R\mathbf{a}$ 应该等于 $\mathbf{a'}$，$R\mathbf{b}$ 等于 $\mathbf{b'}$，如果结果一致，说明计算正确。
• 特殊情况：如果$\overrightarrow{OA}$和$\overrightarrow{OB}$共线（三角形退化成一条线），这时候旋转矩阵不唯一——绕这条直线的任意旋转都能满足条件，需要额外的约束（比如指定某个点的旋转后位置）才能确定唯一矩阵。

内容的提问来源于stack exchange，提问作者DrBgyan