如何快速将5亿长度的float数组写入ASCII文件?(Python)
快速将大型float数组转为ASCII文件的Python方案
你的循环写法慢的核心原因是高频小量IO操作+逐个元素字符串转换,每次循环都做字符串转译和文件写入,开销极大。以下是几种高效实现方式:
1. 基于Numpy的批量写入(优先推荐,若数组是Numpy类型)
如果dataword是Numpy数组,直接用np.savetxt,底层是C优化实现,批量处理字符串转换和IO,速度远快于纯Python循环:
import numpy as np # fmt参数可自定义输出格式,比如%.6f保留6位小数 np.savetxt('output.txt', dataword, fmt='%f')
2. 纯Python列表的分块批量写入
如果是普通Python列表,避免一次性转换所有元素(会占用大量内存),采用分块处理:每次转换一块元素为字符串,再批量写入,大幅减少IO次数:
chunk_size = 1_000_000 # 每块处理100万元素,可根据内存调整 with open('output.txt', 'w', buffering=10*1024*1024) as fout: # 10MB缓冲区优化IO for i in range(0, len(dataword), chunk_size): chunk = dataword[i:i+chunk_size] # 批量转换为字符串并拼接换行符 lines = '\n'.join(map(str, chunk)) + '\n' fout.write(lines)
3. 一次性批量转换(内存充足时用)
如果机器内存足够容纳所有转换后的字符串(5亿float转字符串大概占几十GB内存,需确认),可以一次性转换后写入:
with open('output.txt', 'w') as fout: fout.write('\n'.join(map(str, dataword)) + '\n')
内容的提问来源于stack exchange,提问作者Maurizio Mastrofini
相关产品推荐
相关产品推荐

