如何遍历大型DataFrame行并合并同DATE行做统计计算?
针对大型DataFrame按日期分组统计的解决方案
嘿,别手动遍历行啦!处理这种按日期分组合并计算的需求,用pandas的groupby+agg组合是最高效的方案,尤其适合大型数据集(手动循环不仅慢还容易出错)。
具体步骤:
- 加载数据:先把你的数据加载到pandas DataFrame里(不管是CSV、Excel还是其他数据源都适用)
- 按DATE分组计算:用
groupby('DATE')把相同日期的行归为一组,再通过agg()方法一次性定义所有需要的统计项
代码示例:
import pandas as pd # 加载数据(替换成你的实际数据来源) df = pd.read_csv('your_data_file.csv') # 按DATE分组,自定义各类统计计算 grouped_stats = df.groupby('DATE').agg( min_of_min_values=('MIN', 'min'), # 每组中MIN列的最小值(也就是你说的"最小值的最小值") max_of_max_values=('MAX', 'max'), # 每组中MAX列的最大值 avg_of_mean_values=('MEAN', 'mean'), # 每组中MEAN列的平均值 avg_of_std_values=('STD', 'mean') # 每组中STD列的平均值 ) # 查看最终统计结果 print(grouped_stats)
关键说明:
- 效率优势:pandas的分组操作是底层优化过的,比Python手动循环快几十甚至上百倍,完全适配大型DataFrame的场景
- 自定义复杂计算:如果需要更个性化的统计(比如MIN列最小值与MAX列最小值的差值),可以写自定义函数传入:
def custom_calculation(group): return group['MIN'].min() - group['MAX'].min() grouped_stats['min_min_vs_max_min_diff'] = df.groupby('DATE').apply(custom_calculation) - 结果格式:最终的
grouped_stats是一个结构清晰的新DataFrame,索引为DATE,列是你定义的统计项,方便后续分析或导出
内容的提问来源于stack exchange,提问作者nicoc
相关产品推荐
相关产品推荐

