如何在Python中稳定优化含max的自定义目标函数？

你的问题核心在于目标函数max_distance是非光滑（不可导）的：

• find_closest_number中的二分查找和条件判断会导致函数梯度在某些点发生跳变
• max操作本身也是非光滑的
  SLSQP这类依赖梯度的优化器对非光滑函数的局部最优非常敏感，初始随机点不同就会得到不同结果，哪怕显示优化成功。

以下是几种可行的解决方法：

方法一：改用无梯度优化器（推荐） #

使用Nelder-Mead这类不依赖梯度的单纯形法，它专门针对非光滑、不可导的目标函数设计，对初始点的敏感度更低，能找到更稳定的局部最优结果。

修改后的核心调用代码：

# 替换原minimize调用部分
res = minimize(max_distance, points, bounds=bounds, options={'maxiter': 500}, method="Nelder-Mead")

注意：Nelder-Mead的收敛速度比梯度方法慢，需适当调大迭代次数（比如500）以保证优化效果。

方法二：对目标函数做光滑近似 #

将非光滑的部分替换为光滑函数，让目标函数可导，适配梯度类优化器：

1. 把max替换为平滑max函数（用log-sum-exp近似）
2. 把find_closest_number的硬选择替换为加权平均的光滑距离

示例修改后的目标函数：

def smooth_max(arr, alpha=10.0):
    # alpha越大，越接近真实max；alpha太小会过度平滑
    return (1/alpha) * log(sum(exp(alpha * x) for x in arr))

def smooth_closest_distance(sorted_points, query, sigma=0.1):
    # sigma越小，越接近真实closest的距离；sigma越大越平滑
    weights = exp(-((np.array(sorted_points) - query)**2)/(2*sigma**2))
    weights /= weights.sum()
    smoothed_closest = np.dot(sorted_points, weights)
    return abs(query - smoothed_closest)

def smoothed_max_distance(target_points):
    pair_points = make_pairs(target_points)
    target_points = sorted(target_points)
    dists = [smooth_closest_distance(target_points, p) for p in pair_points]
    return smooth_max(dists)

然后用SLSQP优化光滑后的函数：

res = minimize(smoothed_max_distance, points, bounds=bounds, options={'maxiter': 100}, method="SLSQP")

需要调整alpha和sigma参数，平衡光滑度与近似精度。

方法三：多初始点全局搜索 #

如果坚持用梯度方法，可以用多个随机初始点跑优化，选择目标函数值最小的结果：

num_trials = 10
best_fun = float('inf')
best_x = None
for _ in range(num_trials):
    init_points = np.random.rand(num_points)*10
    res = minimize(max_distance, init_points, bounds=bounds, options={'maxiter': 100}, method="SLSQP")
    if res.fun < best_fun:
        best_fun = res.fun
        best_x = res.x
print("Best result:", best_fun, [round(x,2) for x in best_x])

这种方法能覆盖更多局部最优，找到更优结果，但计算量会随尝试次数增加。

内容的提问来源于stack exchange，提问作者Simd