如何证明群G=⟨x,y | x⁵=y⁴=1,yx=x²y⟩是20阶非交换群且不同构于D₁₀？

你猜的方向完全正确！咱们先从非交换性入手，再确定群的阶数，最后通过对比元素阶的分布证明它和D₁₀不同构，一步步拆解：

一、证明G是非交换群 #

• 假设yx=xy，结合给定的关系yx=x²y，可以得到xy=x²y。两边同时右乘y⁻¹（因为y⁴=1，所以y⁻¹=y³），就有x=x²，再左乘x⁻¹得到1=x。但如果x=1，G就退化成4阶交换群⟨y | y⁴=1⟩，和我们要证的20阶群矛盾，因此yx≠xy，G是非交换群。

二、证明G是20阶群 #

• 第一步：化简群中元素形式
  G中任意元素都可以写成xᵃyᵇ的形式（其中a∈{0,1,2,3,4}，b∈{0,1,2,3}）。这是因为利用关系yx=x²y，我们可以把所有y移到x的右侧：比如y²x = y(yx) = y(x²y) = x²(yx)y = x²(x²y)y = x⁴y²，更一般地，用数学归纳法可证yᵏx = x^(2ᵏ mod5) yᵏ，所以任何由x,y生成的元素都能整理成xᵃyᵇ的形式。
• 第二步：证明这些元素互不相同
  假设xᵃyᵇ = xᶜyᵈ，两边左乘x⁻ᵃ、右乘y⁻ᵇ得1 = x^(c-a) y^(d-b)。如果d≠b，那么y^(d-b)是y的非平凡幂，此时x^(c-a) = y^(b-d)。但x的阶是5，y的阶是4，5和4互质，只有当x^(c-a)=1且y^(b-d)=1时等式才成立，即c-a≡0 mod5且b-d≡0 mod4，也就是c=a、d=b。因此所有xᵃyᵇ都是不同的元素，总共有5×4=20个，G是20阶群。

三、证明G不同构于D₁₀ #

• 先回忆20阶二面体群D₁₀的结构：D₁₀=⟨r,s | r¹⁰=1, s²=1, srs=r⁻¹⟩，它的元素要么是rᵃ（阶整除10），要么是rᵃs（阶为2，因为(rᵃs)²=rᵃs rᵃs=rᵃ r^(-a) s²=1）。
• 而G中存在4阶元素y（因为y⁴=1且y²≠1，否则yx=x²y两边平方得y²x²=x⁴y²，即x²=x⁴，进而x²=1，和x⁵=1矛盾）。但D₁₀中没有4阶元素，同构的群必须有完全相同的元素阶分布，因此G和D₁₀不同构。

内容的提问来源于stack exchange，提问作者DrunenAlg