你研究的这个方程组 $X'=AX$ 属于具有三重代数重数特征值的线性齐次ODE系统，咱们先从你的矩阵 $A$ 入手分析，再一步步推导解法和具体解。

第一步：计算特征向量与广义特征向量 #

你的矩阵 $A$：
$$A=\begin{pmatrix} 1 && 3 && 2 \ 0 && 1 && 0\ 0 && 2 && 1 \end{pmatrix}$$
特征值 $\lambda=1$，代数重数 $\mu=3$，首先我们需要求它的几何重数（即线性无关特征向量的个数）。解方程组 $(A-\lambda I)\mathbf{u}=0$，也就是 $(A-I)\mathbf{u}=0$：
$$A-I=\begin{pmatrix} 0 && 3 && 2 \ 0 && 0 && 0\ 0 && 2 && 0 \end{pmatrix}$$
化简后可以得到基础解系：$\mathbf{u}_1=\begin{pmatrix}1\0\0\end{pmatrix}$，所以几何重数 $\gamma=1$（只有1个线性无关的特征向量）。

这种情况下，我们需要构造广义特征向量来得到完整的解空间。广义特征向量满足：
$$(A-\lambda I)^k\mathbf{v}=0, \quad (A-\lambda I)^{k-1}\mathbf{v}\neq0$$
对于三重特征值且几何重数为1的情况，我们需要找长度为3的广义特征链：

• 先找满足 $(A-I)^2\mathbf{v}_3=0$ 但 $(A-I)\mathbf{v}_3\neq0$ 的向量 $\mathbf{v}_3$
• 令 $\mathbf{v}_2=(A-I)\mathbf{v}_3$，这个向量会满足 $(A-I)\mathbf{v}_2=0$（也就是特征向量）
• 而 $\mathbf{v}_1=\mathbf{v}_2$ 就是我们之前找到的特征向量

先计算 $(A-I)^2$：
$$(A-I)^2=\begin{pmatrix} 0 && 3 && 2 \ 0 && 0 && 0\ 0 && 2 && 0 \end{pmatrix}\begin{pmatrix} 0 && 3 && 2 \ 0 && 0 && 0\ 0 && 2 && 0 \end{pmatrix}=\begin{pmatrix} 0 && 4 && 0 \ 0 && 0 && 0\ 0 && 0 && 0 \end{pmatrix}$$
解 $(A-I)^2\mathbf{v}_3=0$，比如取 $\mathbf{v}_3=\begin{pmatrix}0\0\1\end{pmatrix}$，验证一下：
$$(A-I)\mathbf{v}_3=\begin{pmatrix}00+30+21\0\00+20+01\end{pmatrix}=\begin{pmatrix}2\0\0\end{pmatrix}=2\mathbf{u}_1$$，完全符合要求。

然后 $\mathbf{v}_2=(A-I)\mathbf{v}_3=\begin{pmatrix}2\0\0\end{pmatrix}$，$\mathbf{v}_1=\mathbf{u}_1=\begin{pmatrix}1\0\0\end{pmatrix}$（可以取单位化的形式，不影响解的本质结构）。

第二步：构造方程组的通解 #

对于这种几何重数小于代数重数的三重特征值情况，通解的形式会包含多项式项，具体来说，通解由三个线性无关的解组合而成：

1. 第一个解是常规的特征向量解：$\mathbf{x}_1(t)=e^{\lambda t}\mathbf{v}_1$
2. 第二个解是带一次多项式的解：$\mathbf{x}_2(t)=e^{\lambda t}(t\mathbf{v}_1+\mathbf{v}_2)$
3. 第三个解是带二次多项式的解：$\mathbf{x}_3(t)=e^{\lambda t}\left(\frac{t^2}{2}\mathbf{v}_1+t\mathbf{v}_2+\mathbf{v}_3\right)$

把 $\lambda=1$ 代入，结合我们找到的向量，具体的通解就是：
$$
\mathbf{X}(t)=c_1e^{{t}\begin{pmatrix}1\0\0\end{pmatrix}+c_2e}{t}\left(t\begin{pmatrix}1\0\0\end{pmatrix}+\begin{pmatrix}2\0\0\end{pmatrix}\right)+c_3e^{{t}\left(\frac{t}2}{2}\begin{pmatrix}1\0\0\end{pmatrix}+t\begin{pmatrix}2\0\0\end{pmatrix}+\begin{pmatrix}0\0\1\end{pmatrix}\right)
$$
当然，你也可以整理一下系数，比如把 $\mathbf{v}_2$ 换成 $\mathbf{u}_1$（因为它们线性相关），通解的本质不变，只是常数项会相应调整。

通用解法总结 #

对于 $n×n$ 矩阵 $A$ 有一个代数重数为 $\mu$ 的特征值 $\lambda$，几何重数为 $\gamma$，我们需要构造 $\gamma$ 个广义特征链，每个链的长度对应Jordan块的大小。

• 若几何重数为1（对应一个3阶Jordan块），通解就是我们上面推导的带二次多项式的形式；
• 若几何重数为2（对应一个2阶Jordan块和一个1阶Jordan块），通解会是两个特征向量解加上一个带一次多项式的解，形式类似你熟悉的2×2情况的扩展。

回到你的具体问题，矩阵 $A$ 的Jordan标准型是：
$$J=\begin{pmatrix}1&&1&&0\0&&1&&1\0&&0&&1\end{pmatrix}$$
所以通解的结构完全符合三阶Jordan块对应的解形式。

内容的提问来源于stack exchange，提问作者muserock92