Scipy：数值微分版牛顿法比割线法求根更快吗？

这是个挺实际的问题——毕竟谁都想找最快最稳的求根方式。先把核心逻辑理清楚：

• 当你调用scipy.optimize.newton却不传fprime时，函数确实会自动切换到割线法，用相邻两次迭代的函数值差来近似导数，不需要额外的导数计算。
• 如果你自己用数值微分（比如中心差分、向前差分）实现fprime并传进去，就会启用标准的牛顿-拉夫逊法，每次迭代同时计算函数值和近似导数值。

接下来对比两者的效率，得从「单次迭代成本」和「收敛速度」两个维度看：

1. 理论收敛速度 vs 实际计算成本 #

• 牛顿法是二次收敛，意思是每次迭代后，误差会以平方级缩小；而割线法是超线性收敛（收敛阶约1.618），收敛速度比牛顿法慢一些。
• 但这里有个关键：如果用数值微分算导数，每次计算fprime(x)至少要多算1-2次f(x)（比如中心差分需要算f(x+h)和f(x-h)）。也就是说，牛顿法的单次迭代成本是割线法的2-3倍（割线法除了前两次迭代，每次只算一次f(x)）。

所以实际效率得看你的函数f(x)的计算成本：

• 如果f(x)计算很便宜（比如简单的多项式、初等函数）：牛顿法虽然单次迭代成本高，但收敛快，总迭代次数少，最终总计算量会更低，整体更快。
• 如果f(x)计算很昂贵（比如涉及复杂仿真、大型矩阵运算）：割线法每次迭代只算一次f(x)，哪怕迭代次数多一点，总耗时可能反而更少。

2. 数值稳定性的考虑 #

• 数值微分的精度严重依赖步长h的选择：h太大，截断误差会变大；h太小，又会引入浮点舍入误差。如果导数近似得不准，牛顿法可能出现迭代发散、震荡的情况，反而不如割线法稳定。
• 而SciPy内置的割线法实现，是用迭代过程中积累的函数值来近似导数，不需要手动调步长，在很多场景下稳定性反而更好。

实操建议 #

1. 先试默认的割线法：毕竟不用额外写代码，而且SciPy的实现已经优化过，大部分场景下都能稳定收敛。
2. 如果割线法迭代次数太多，再尝试数值微分版牛顿法：推荐用中心差分（比向前差分精度高）来实现fprime，比如：

   import numpy as np
   from scipy.optimize import newton
   
   def your_function(x):
       # 你的目标函数示例
       return x**3 - 2*x - 5
   
   def numerical_derivative(x, h=1e-7):
       # 中心差分计算导数
       return (your_function(x + h) - your_function(x - h)) / (2 * h)
   
   # 调用带数值导数的牛顿法
   root = newton(your_function, x0=2.0, fprime=numerical_derivative)
   

   注意可以调整h的大小，找一个平衡截断误差和舍入误差的步长（一般取1e-6到1e-8之间，取决于函数的平滑程度）。
3. 极端场景下，可以试试SciPy的其他求根函数：比如scipy.optimize.root里的hybr方法（拟牛顿法），它会自动维护导数的近似，兼顾收敛速度和稳定性。

内容的提问来源于stack exchange，提问作者Joel Biffin