为什么Scipy.spatial.distance.cdist用双重for循环运行速度仍很快？

首先要先澄清一个常见误解：你在Scipy的Python源码文件里看到的双重循环，只是外层做参数校验、距离类型分发的逻辑，真正负责距离计算的核心逻辑根本不是Python层面实现的。

• 核心计算由编译型语言实现：cdist的距离计算内核是纯C语言编写的扩展模块，C语言的循环直接编译为机器码执行，没有Python循环的解释器开销，也不需要处理Python对象的引用计数、类型校验、GIL竞争等额外操作，单轮循环的执行速度是Python原生循环的几十到上百倍。
• 内存与硬件指令优化：底层实现提前将输入的数组调整为连续内存排布，计算时可以直接按地址访问数据，避免了Python层面访问数组元素的额外开销；同时适配了CPU的SIMD指令集，单条指令就可以并行处理多组浮点数运算，进一步提升计算吞吐量。
• 时间复杂度相同但常数项差距极大：O(n²)的复杂度描述只是忽略常数项的理论评价标准，实际运行速度受常数项影响极大。Python手写双重循环的常数项极高，每一步操作都伴随大量解释器层面的冗余执行逻辑，而C实现的cdist常数项被压缩到极低，哪怕复杂度完全一致，实际运行速度也会有数量级的差距。
• 针对性场景优化：cdist针对常见的使用场景做了大量分支优化，比如对小批量数据、稀疏矩阵、特定距离类型都有单独的优化实现，比普通开发者手写的通用双重循环适配性更好、效率更高。

内容的提问来源于stack exchange，提问作者Alantin14