使用SLSQP的scipy.minimize结果受初始值影响的问题

问题背景 #

在固定预算约束下，分配6个输入变量以最大化总回报，每个输入的回报呈对数型凹函数（具有饱和特性）。使用scipy.optimize.minimize的SLSQP方法优化时，发现优化结果对初始猜测值高度敏感——1000次随机初始猜测得到的结果差异明显，与预期的唯一全局最优解不符，且已确认目标函数和梯度函数逻辑正确。

使用的核心代码：

optimization = minimize(objective_function, initial_guess, method='SLSQP', jac=gradient_function, bounds=boundaries, constraints=[{'type': 'eq', 'fun': constraints_function}], options={'maxiter': maxiter})

可能的原因 #

1. SLSQP的局部优化特性：SLSQP是基于梯度的局部优化算法，仅能收敛到初始猜测附近的局部极值点。即使目标函数是凹函数，若可行域存在数值层面的细微非凸性（比如约束函数的数值精度误差），或初始点落在函数饱和区（梯度接近0），算法可能提前终止于次优解。
2. 数值精度设置不足：默认的ftol（函数收敛容差）、eps（梯度计算步长）等参数可能过于宽松，导致不同初始点的迭代在未收敛到全局最优时就停止，表现为结果差异。
3. 约束函数的数值实现问题：即使逻辑正确，约束函数的数值计算误差（比如预算总和的浮点精度偏差）可能导致可行域出现局部非凸，让算法找到不同的局部解。

解决建议 #

• 收紧优化精度参数：在options中设置更严格的收敛阈值，例如：

  options={'maxiter': maxiter, 'ftol': 1e-9, 'eps': 1e-8, 'disp': True}
  

  开启disp=True可以查看迭代过程，确认是否真的收敛到稳定点。
• 先全局优化再局部精细调优：先用全局优化算法（如scipy.optimize.differential_evolution或shgo）搜索整个可行域，得到全局最优的近似解，再将其作为SLSQP的初始猜测，验证是否收敛到一致结果。示例：

  from scipy.optimize import differential_evolution
  
  # 全局优化搜索
  global_result = differential_evolution(lambda x: -objective_function(x), bounds=boundaries, constraints={'type': 'eq', 'fun': constraints_function})
  # 用全局结果作为初始猜测做局部优化
  local_result = minimize(objective_function, global_result.x, method='SLSQP', jac=gradient_function, bounds=boundaries, constraints=[{'type': 'eq', 'fun': constraints_function}], options={'maxiter': maxiter, 'ftol': 1e-9})
  

• 优化初始猜测策略：避免完全随机的初始点，优先选择可行域内的“合理”点（如预算均匀分配：initial_guess = [budget/6]*6），或在可行域内均匀采样初始点，观察是否收敛到同一结果。
• 验证目标函数的凹性：再次确认总回报函数的凹性——若每个输入的回报是凹函数，总和也应为凹函数，此时在凸可行域（如预算总和固定的单纯形）上应存在唯一全局最优。若存在非凹项，需重新评估问题模型。

内容的提问来源于stack exchange，提问作者runningbirds