如何高效实现Pandas中球员与日期DataFrame的笛卡尔积合并?
高效生成球员与日期的全组合DataFrame
嘿,这个场景我之前踩过坑!用双重for循环处理2600×1100=286万行的组合,速度慢到离谱完全正常——Python级别的循环本来就不适合这种批量数据操作。Pandas里有专门的高效方法来实现这种笛卡尔积(全交叉连接),根本不用写循环,分分钟就能搞定!
方法一:用Pandas内置的merge做交叉连接
这是最贴合Pandas风格的方法,利用虚拟键实现全连接:
import pandas as pd # 给两个DataFrame添加一个临时的相同键列 players['temp_key'] = 1 dates['temp_key'] = 1 # 执行交叉连接,然后删除临时键 player_elo = pd.merge(players, dates, on='temp_key').drop('temp_key', axis=1) # 调整列顺序(如果需要和你原来的目标列顺序一致) player_elo = player_elo[['PlayerID', 'Date']]
为什么这个方法快?
Pandas的merge方法底层是用优化过的C代码实现的向量化操作,能批量处理所有组合,比Python循环快几个数量级,处理286万行完全不在话下。
方法二:用itertools.product生成组合再转DataFrame
如果你习惯用迭代器的方式,也可以用Python标准库的itertools.product直接生成所有(PlayerID, Date)的组合,再转成DataFrame:
import pandas as pd import itertools # 生成所有球员和日期的笛卡尔积组合 all_combinations = itertools.product(players['PlayerID'], dates['Date']) # 转成目标DataFrame player_elo = pd.DataFrame(all_combinations, columns=['PlayerID', 'Date'])
这个方法同样比循环高效很多,而且不需要修改原DataFrame(不用加临时列)。
额外提醒
如果你的players或dates里有重复行,这两种方法都会保留重复组合。如果需要避免冗余数据,可以先对原DataFrame去重:
# 对PlayerID去重 players = players.drop_duplicates(subset='PlayerID') # 对Date去重 dates = dates.drop_duplicates(subset='Date')
内容的提问来源于stack exchange,提问作者ondrikh23
相关产品推荐
相关产品推荐

