JAX库函数执行时间测量差异:%time与%timeit结果应参考哪个
结论
优先以%timeit的测试结果作为函数实际执行性能的参考。
原因说明
单次计时的固有误差太大
%time仅统计单次运行耗时,本身受系统调度波动、CPU频率动态调整(睿频/节能模式切换)、后台进程资源抢占的影响极大,对于毫秒、微秒级的轻量计算任务,单次测量的误差甚至可能超过真实耗时本身,参考价值很低。
你观察到的%time和%timeit结果差异,和JAX的异步逻辑无关:你已经添加的block_until_ready()已经完全规避了JAX异步调度的计时坑,该操作会等待计算完全完成后再返回,足以保障计时逻辑本身的准确性,差异来自单次测量的固有缺陷。%timeit的设计更贴合性能对比需求%timeit会自动执行多轮预热运行,会把JIT编译、缓存装填、模块初始化这类一次性冷启动开销排除在外,测得的是函数稳定运行时的耗时;同时它会根据函数执行速度自动调整循环次数,对于执行速度快的函数会跑数万次来摊薄计时本身的开销,最终给出多轮测试的平均值和标准差,结果的可信度远高于单次测量。
你自定义的计时函数和%timeit结果一致,也验证了%timeit结果的准确性。
补充建议
- 如果你需要统计包含冷启动的端到端单次调用耗时(比如模拟线上实际调用场景),不要参考单次
%time的结果,建议连续跑至少50~100次单次计时,去掉最高最低的极值后取平均值。 - 如果你只是对比三个函数的本身计算性能,直接使用
%timeit的结果即可。
内容的提问来源于stack exchange,提问作者Emperor Transisthor
相关产品推荐
相关产品推荐

