带等式与不等式约束的线性方程组最小二乘求解咨询

问题分析 #

你之前用lsq_linear消元时，只设置了X和Y的上下界，但没把Z>0转化为X+Y<1的约束，所以会出现Z接近0的情况。而用minimize时结果不对，大概率是目标函数或约束的配置出了问题。

正确思路是：利用等式约束X+Y+Z=1将变量缩减为X和Y，把所有原约束转化为这两个变量的约束，再通过最小化残差平方和求解。

具体实现步骤 #

1. 变量替换：把Z替换为Z = 1 - X - Y，代入原方程后，残差表达式变为：
   残差 = Ie - [Ia*X + Ib*Y + Ic*(1 - X - Y)]
   整理后可简化为：残差 = (Ie - Ic) - X*(Ia - Ic) - Y*(Ib - Ic)

2. 约束转化：

   • 原约束0 < X,Y,Z < 1转化为：
     • 0 < X < 1
     • 0 < Y < 1
     • X + Y < 1（X、Y均大于0时，X+Y>0自动满足）

3. 目标函数：最小化所有数据点的残差平方和。

示例代码 #

import numpy as np
from scipy.optimize import minimize

# 构造模拟数据（替换成你的真实数据即可）
np.random.seed(42)
n_samples = 50
# 满足约束的真实X,Y,Z
true_X = np.random.uniform(0.2, 0.3, n_samples)
true_Y = np.random.uniform(0.3, 0.4, n_samples)
true_Z = 1 - true_X - true_Y
# 生成Ia, Ib, Ic, Ie（加入少量模拟噪声）
Ia = np.random.uniform(10, 20, n_samples)
Ib = np.random.uniform(20, 30, n_samples)
Ic = np.random.uniform(30, 40, n_samples)
Ie = Ia * true_X + Ib * true_Y + Ic * true_Z + np.random.normal(0, 0.5, n_samples)

# 定义目标函数：计算残差平方和
def objective(params):
    X, Y = params
    Z = 1 - X - Y
    residuals = Ie - (Ia * X + Ib * Y + Ic * Z)
    return np.sum(residuals ** 2)

# 定义不等式约束：X + Y ≤ 1（数值计算用≤代替<，避免边界问题）
cons = ({'type': 'ineq', 'fun': lambda params: 1 - params[0] - params[1]})

# 定义变量边界：用极小值代替0，避免严格边界的数值问题
bounds = ((1e-6, 1 - 1e-6), (1e-6, 1 - 1e-6))

# 初始猜测值（选一个满足约束的点即可）
x0 = np.array([0.2, 0.3])

# 用SLSQP方法求解（支持边界和约束）
result = minimize(objective, x0, method='SLSQP', bounds=bounds, constraints=cons)

# 输出结果
print("求解状态:", result.message)
print("最优X:", result.x[0])
print("最优Y:", result.x[1])
print("最优Z:", 1 - result.x[0] - result.x[1])
print("最小残差平方和:", result.fun)

关键说明 #

• 选择SLSQP方法：它原生支持边界和不等式约束，适配这类带约束的优化问题。
• 边界设置：用1e-6和1-1e-6代替严格的0和1，避免数值计算中出现边界溢出问题。
• 约束配置：明确添加X+Y ≤1的不等式约束，确保Z始终大于0。

如果之前用minimize结果异常，可能是这几个原因：

• 目标函数没正确计算残差平方和，而是直接用了线性方程的原始形式；
• 约束类型设置错误（比如误用等式约束代替不等式）；
• 初始猜测值选得不合理，导致收敛到非预期的局部最优（不过这个问题是凸优化问题，合理初始值能加快收敛）。

内容的提问来源于stack exchange，提问作者samman