scipy.minimize如何处理NaN？SLSQP求解器优化异常咨询

嘿，这个问题我在帮别人调SLSQP的时候碰到好多次了——尤其是当约束比较严格，求解器在探索可行域边界时，很容易踩出去导致目标函数返回NaN，进而把近似雅可比搞崩，最后触发退出模式8。给你几个实用的解决思路，亲测有效：

1. 给目标函数加“边界拦截”，返回惩罚值而非NaN #

SLSQP在迭代中会尝试一些接近甚至违反约束的点，这时候如果你的目标函数在约束外没有定义（比如除以零、开负数根号），就会返回NaN。与其让它返回NaN，不如提前检查参数是否在可行域内，若违反约束就返回一个极大的惩罚值，让求解器知道这个方向完全不可行。

举个例子，假设你的约束是x[0] > 0，原来的目标函数可能是这样：

def objective(x):
    return np.log(x[0]) + x[1]**2  # x[0]<=0时会返回NaN

修改后：

def objective(x):
    # 先检查约束是否满足，这里以x[0]>0为例
    if x[0] <= 1e-8:  # 用一个极小的正数代替严格大于0，避免浮点误差
        return 1e10  # 返回极大惩罚值
    return np.log(x[0]) + x[1]**2

这样求解器碰到违反约束的点时，会得到一个极高的目标值，自然会往可行域方向调整，不会因为NaN搞崩雅可比矩阵。

2. 手动提供雅可比矩阵（梯度），替代近似计算 #

SLSQP默认用有限差分法近似雅可比矩阵，一旦某个点的目标函数返回NaN，整个近似矩阵都会被污染成NaN，直接导致迭代失败。如果能手动推导并提供目标函数的梯度，就能完全避免这个问题——你可以在梯度函数里同样处理约束边界的情况，确保输出始终是有效的数值。

比如上面的目标函数，手动计算梯度：

def objective_jac(x):
    if x[0] <= 1e-8:
        return np.array([0, 2*x[1]])  # 约束外返回一个“安全”的梯度
    return np.array([1/x[0], 2*x[1]])

然后调用minimize时指定jac=objective_jac：

from scipy.optimize import minimize

res = minimize(objective, x0, method='SLSQP', constraints=cons, jac=objective_jac)

手动提供梯度不仅能避免NaN问题，还能让迭代更高效、收敛更快。

3. 调整SLSQP的求解参数，减少越界概率 #

SLSQP有几个参数可以调整，降低它踩出可行域的概率：

• eps：有限差分的步长（默认1e-8）。如果步太大，求解器可能一步就跳出约束；可以适当调小，比如eps=1e-9，但也别太小，否则会增加计算量。
• max_iter：增加最大迭代次数，有时候退出模式8是因为迭代次数不够，求解器还没找到正确的方向就放弃了。
• disp=True：开启打印模式，能看到每一步的参数和目标值，方便定位到底是哪一步出现了NaN，针对性调整约束或目标函数。

调用示例：

res = minimize(objective, x0, method='SLSQP', constraints=cons, 
               options={'eps': 1e-9, 'max_iter': 1000, 'disp': True})

4. 优化约束定义，给求解器留“缓冲空间” #

有时候约束定义太“硬”也会导致问题，比如严格的等式约束或x>0这种没有缓冲的不等式约束。可以给约束加一个极小的松弛量，避免求解器因为浮点误差误判为违反约束：

• 把x>0改成x >= 1e-8，对应的约束函数写成lambda x: x[0] - 1e-8
• 如果是等式约束，可以改成不等式约束的组合，比如x[0] = 5改成x[0] >=4.999999和x[0] <=5.000001，给求解器一点容错空间

5. 选择可行域内部的初始点 #

如果初始点就在约束边界上，求解器一开始就很容易往外面探索。选一个明显满足所有约束的初始点，让求解器从可行域内部开始迭代，能大大降低早期出现NaN的概率。比如约束是x[0]>0, x[1]>0，初始点就选x0=[1,1]，而不是[0,0]或者[1e-10, 1e-10]。

内容的提问来源于stack exchange，提问作者Peter