如何高效调试两个逻辑一致但输出不同的并行运行Python矩阵脚本

方案1：共享内存零IO对比（性能最高） #

适合需要频繁对比中间矩阵的场景，全程无磁盘写入：

• 依赖Python标准库multiprocessing.shared_memory和numpy原生的内存映射能力，不需要安装第三方依赖
• 提前在调度进程中创建2块命名共享内存，大小按最大待对比矩阵的字节数（shape[0]*shape[1]*dtype.itemsize）预分配，同时预留2个字节的就绪标识位
• 两个待调试脚本各插入少量钩子代码：每生成待对比矩阵后，直接将数组内容拷贝到对应共享内存段，将对应标识位置为1
• 独立运行的对比进程轮询标识位，双标识就绪后直接用numpy.ndarray构造函数将共享内存映射为numpy数组，直接执行差值、范数、numpy.allclose等校验逻辑，校验完成后重置标识位即可进入下一轮对比
• 避免额外数组拷贝：直接通过指定buffer参数构造numpy数组，不要调用.copy()，性能和同进程内变量对比几乎一致

方案2：增量哈希预校验+按需导出（改造成本最低） #

不想改共享内存逻辑的话，用哈希预筛替代全量变量导出，效率比逐文件导出高10倍以上：

• 安装第三方哈希库xxhash，计算速度远高于Python原生哈希和numpy数组哈希
• 两个脚本全局注入调试装饰器，所有待对比的矩阵生成后，先调用numpy.nan_to_num处理异常值，再调用xxhash.xxh3_64(arr.view(np.uint8)).hexdigest()计算哈希值，连同当前调用栈、步骤序号写入mmap内存映射文件
• 两个脚本运行完成后先对比两个哈希序列，直接定位到第一个哈希不一致的步骤，仅导出该步骤的全量矩阵做细粒度对比，不需要导出所有中间变量
• 序列化大矩阵优先用numpy.save的二进制格式，不要存csv、txt等文本格式，序列化速度快100倍以上，占用空间只有文本的几十分之一

方案3：远程调试挂载（零业务代码侵入） #

完全不需要修改原有业务代码，直接通过调试器读取进程内存变量：

• 两个脚本启动时注入debugpy远程调试监听，分别绑定不同端口，不需要修改业务逻辑代码
• 写独立的控制脚本，同时连接两个调试端口，在需要校验的代码位置同步下断点
• 两个进程都触发断点后，直接通过debugpy的API读取对应位置的矩阵变量到控制进程，直接做数值对比，调试完成后移除debugpy启动参数即可恢复原有运行逻辑

数值对比小技巧 #

对比大规模矩阵时不要全量打印差值，先调用numpy.allclose(arr1, arr2, rtol=1e-5, atol=1e-8)判断是否为允许的数值误差，再调用numpy.argwhere(~numpy.isclose(arr1, arr2, rtol=1e-5, atol=1e-8))直接输出不一致的坐标位置，快速定位是边界逻辑错误还是全局数值误差。

内容的提问来源于stack exchange，提问作者material bug