我来帮你拆解这段Schur引理推论的细节，先从核心的映射定义说起：

设$h$是群表示空间$V_1$到$V_2$的线性映射，我们构造一个新的映射$h^0$：
$$h^0 = \frac{1}{g} \sum_{t \in G}(\rho_t²⁾{-1}h\rho_t^1$$
这里$G$是我们讨论的群，$g = |G|$表示群的阶数，$\rho^1$、$\rho2$分别是$G$在$V_1$、$V_2$上的群表示。

推论的两点核心结论 #

• 结论1：不同构表示下$h^0$为零映射
  如果$\rho^1$和$\rho2$是不同构的不可约表示，那么$h^0 = 0$。
  本质上这是Schur引理的延伸：Schur引理指出，不同构的不可约表示之间不存在非零的$G$-线性映射（即满足$\rho_s^2 \circ h = h \circ \rho_s^1$对所有$s\in G$成立的映射），而你可以验证我们构造的$h^0$恰好是一个$G$-线性映射，所以当表示不同构时，它只能是零映射。

• 结论2：同表示下$h^0$是位似变换
  如果$V_1 = V_2$且$\rho^1 = \rho^{2$（也就是同一个不可约表示），那么$h}0$是一个位似变换（即单位矩阵的常数倍），比例系数为$\frac{1}{n}\text{Tr}(h)$，其中$n = \dim(V_1)$是表示空间的维数。
  这里还是用Schur引理：同一个不可约表示上的$G$-线性映射只能是位似变换$cI$（$c$是常数，$I$是单位映射）。接下来我们可以通过迹的性质算出$c$：对$h^0 = cI$两边取迹，得到$\text{Tr}(h^0) = c \cdot n$；而根据迹的循环性$\text{Tr}(ABA^{-1}) = \text{Tr}(B)$，$\text{Tr}((\rho_t)^{-1}h\rho_t) = \text{Tr}(h)$，所以$\text{Tr}(h^0) = \frac{1}{g}\sum_{t\in G}\text{Tr}(h) = \text{Tr}(h)$，联立就能得到$c = \frac{\text{Tr}(h)}{n}$，正好对应结论里的比例。

矩阵形式的推导细节 #

我们把所有映射和表示都写成矩阵形式来更直观地理解：

• 设$\rho_t^1$对应的矩阵为$(r_{i_1j_1}(t))$，其中$i_1,j_1$对应$V_1$基向量的指标
• $\rho_t^2$对应的矩阵为$(r_{i_2j_2}(t))$，$i_2,j_2$对应$V_2$基向量的指标
• 线性映射$h$对应的矩阵为$(x_{i_2i_1})$（注意指标顺序：行对应$V_2$的基，列对应$V_1$的基）
• 构造出的$h^{0$对应的矩阵为$(x_{i_2i_1}}0)$

展开$h^0$的矩阵元素，根据矩阵乘法的规则：
$$x_{i_2i_1}^0 = \frac{1}{g}\sum_{t\in G} \sum_{k,l} \left( (\rho_t²⁾{-1} \right){i_2k} x{kl} (\rho_t^1){l i_1}$$
由于群表示满足$\rho_t \rho{t^{-1}} = I$，所以$(\rho_t²⁾{-1} = \rho_{t^{-1}}2$，上式也可以写成：
$$x_{i_2i_1}^0 = \frac{1}{g}\sum_{t\in G} \sum_{k,l} r_{i_2k}(t^{-1}) x_{kl} r_{l i_1}(t)$$

对应推论的两种情况：

• 如果$\rho^1$和$\rho2$不同构，这个求和的结果会让每个矩阵元素$x_{i_2i_1}^0$都等于0
• 如果$\rho^1 = \rho^2$，这个求和最终会得到$\frac{\text{Tr}(h)}{n}\delta_{i_2i_1}$（$\delta$是克罗内克函数，仅当$i_2=i_1$时为1，其余为0），也就是对角线上全为$\frac{\text{Tr}(h)}{n}$的对角矩阵，正好对应位似变换$\frac{\text{Tr}(h)}{n}I$。

内容的提问来源于stack exchange，提问作者Blake