Python中提升BFGS优化器求解精度的方法咨询

一、BFGS方法的参数设置 #

1. 控制迭代次数与默认终止阈值 #

scipy.optimize.minimize的BFGS方法可通过options参数调整迭代相关规则：

• maxiter: 设置最大迭代次数，直接限制优化过程的迭代上限
• ftol: 函数值相对变化阈值，当连续两次迭代的函数值变化比例小于该值时终止
• gtol: 梯度范数阈值，当目标函数梯度的L2范数小于该值时终止

示例代码：

from scipy.optimize import minimize

def obj(x):
    # 你的目标函数实现
    return ...

DesVar = # 初始设计变量数组

results = minimize(obj, DesVar, method='BFGS',
                   options={
                       'maxiter': 1000,  # 最大迭代次数
                       'ftol': 1e-8,     # 函数值相对变化阈值
                       'gtol': 1e-6      # 梯度范数阈值
                   })

2. 自定义目标函数绝对值阈值终止 #

如果需要让目标函数值绝对值低于指定阈值（比如1e-6），可以通过callback函数实现提前终止：

def termination_callback(x):
    current_obj = obj(x)
    if abs(current_obj) < 1e-6:
        # 返回True触发迭代终止
        return True
    return False

results = minimize(obj, DesVar, method='BFGS',
                   options={'maxiter': 1000},
                   callback=termination_callback)

注意：BFGS属于无约束优化方法，无法直接设置"目标函数必须低于某值"的硬约束，只能通过终止条件间接实现该效果。

二、替代梯度基优化方法 #

如果BFGS无法满足需求，推荐以下梯度基方法：

• L-BFGS-B: 内存高效版BFGS，支持变量上下界约束，适合大规模优化问题，参数设置逻辑与BFGS一致，只需将方法名设为'L-BFGS-B'
• Newton-CG: 牛顿共轭梯度法，需提供目标函数梯度（可自动推导或手动实现），收敛速度比BFGS更快，适合二阶信息易获取的场景
• SLSQP: 支持等式、不等式约束的梯度优化方法，即使当前是无约束问题，后续扩展约束时无需更换框架，灵活性更强

示例（L-BFGS-B）：

results = minimize(obj, DesVar, method='L-BFGS-B',
                   options={'maxiter': 1000, 'ftol': 1e-8},
                   callback=termination_callback)

内容的提问来源于stack exchange，提问作者KNVCSG