操作DataFrame遇性能警告,循环拆分向量列代码求优化
解决DataFrame碎片化性能警告的优化方案
问题场景
你当前的代码通过循环逐个提取向量元素并插入DataFrame列,触发了DataFrame高度碎片化的性能警告:
DataFrame高度碎片化,通常由多次调用
frame.insert导致,性能表现较差。建议使用pd.concat(axis=1)一次性合并所有列,或通过newframe = frame.copy()获取非碎片化的DataFrame。
原代码:
for i in range(len(data['Vektoren'][0])): tmp_lst = [] for v in data['Vektoren']: tmp_lst.append(v[i]) data[i] = tmp_lst
优化方案
循环插入列会反复修改DataFrame的内存结构,导致碎片化。以下两种方法可以一次性完成列添加,彻底解决该问题:
方法1:利用pd.concat批量合并
直接将Vektoren列中的向量拆分为多列,生成新DataFrame后一次性合并:
# 把每个向量展开为单独的列,生成新DataFrame vector_df = pd.DataFrame(data['Vektoren'].tolist()) # 与原DataFrame横向合并 data = pd.concat([data, vector_df], axis=1)
方法2:numpy数组转换优化
如果Vektoren中的元素是长度一致的可迭代对象,用numpy数组转换效率更高:
import numpy as np # 将向量列转为二维数组,再转为DataFrame vector_array = np.array(data['Vektoren'].tolist()) vector_df = pd.DataFrame(vector_array) # 合并到原数据 data = pd.concat([data, vector_df], axis=1)
优化说明
两种方案均避免了循环中多次修改DataFrame的操作,一次性完成所有列的添加,既消除了碎片化警告,又大幅提升了代码运行效率,同时代码结构更简洁易读。
内容的提问来源于stack exchange,提问作者Roland
相关产品推荐
相关产品推荐

