如何根据给定回归方程与观测数据构建设计矩阵X？

设计矩阵的构建逻辑非常直接：矩阵的每一列对应模型公式里的一个待估计参数项，每一行对应单条观测样本的对应特征取值，你只要把模型里每个权重乘的内容拆出来，逐列填对应观测值就行。

针对你给出的二次回归模型y = w₁ + w₂x₁ + w₃x₂ + w₄x₁² + w₅x₂²，一共包含5个待估权重，因此设计矩阵X是尺寸为n行×5列的矩阵，各列的填充规则如下：

• 第1列（对应截距项w₁）：所有元素取值为1。截距项不与任何自变量绑定，等价于乘常数1，因此整列填1即可
• 第2列（对应系数w₂）：按样本顺序填入x₁的全部观测值，即序列1,2,3,4,...,n
• 第3列（对应系数w₃）：按样本顺序填入x₂的全部观测值，即序列5,6,7,8,...,n+4（注：你原描述里x₂序列终点写为n存在笔误，按首项5、步长1递推，第n项应为n+4）
• 第4列（对应系数w₄）：按样本顺序填入x₁观测值的平方，即对第2列的每个元素做平方运算，得到序列1²,2²,3²,...,n²
• 第5列（对应系数w₅）：按样本顺序填入x₂观测值的平方，即对第3列的每个元素做平方运算，得到序列5²,6²,7²,...,(n+4)²

举个最小样例，当n=3时，前3条样本的x₁取值为1、2、3，x₂取值为5、6、7，对应的设计矩阵为：

[
  [1, 1, 5, 1, 25],
  [1, 2, 6, 4, 36],
  [1, 3, 7, 9, 49]
]

构建完成后，把目标变量T整理为n行1列的列向量，就可以直接代入最小二乘公式w = (XᵀX)⁻¹XᵀT计算所有参数的估计值。

额外提醒：你给出的x₁、x₂观测序列满足x₂ = x₁ + 4的完全线性关系，这种情况会导致矩阵XᵀX不可逆，无法直接求解最小二乘估计，实际拟合前需要先处理自变量完全共线性的问题。

内容的提问来源于stack exchange，提问作者Ramu