如何高效检测Pandas时序DataFrame中不符合规则的类型逆向转换(Type2→Type1)
如何高效检测Pandas时序DataFrame中不符合规则的类型逆向转换(Type2→Type1)
嗨,这个需求用Pandas的原生矢量化操作就能完美解决,完全不用写循环,既Pythonic又高效,我给你拆解下具体步骤:
首先,我们需要确保数据是按ID+时间顺序排列的,这样才能正确观察每个样本的类型变化:
import pandas as pd # 先把日期列转换成datetime类型(如果原数据是字符串格式的话) df['Snapshot Month'] = pd.to_datetime(df['Snapshot Month'], format='%Y%m%d') # 按ID升序、时间升序排序 df_sorted = df.sort_values(by=['ID', 'Snapshot Month'])
接下来,我们对每个ID分组,用shift()方法获取每个样本上一个时间点的类型——这一步是核心,能帮我们对比相邻时间点的类型变化:
# 为每个ID添加「上一次的类型」列 df_sorted['prev_type'] = df_sorted.groupby('ID')['Type'].shift(1)
最后,直接筛选出「上一次类型是2,当前类型是1」的行,提取对应的ID并去重,就是我们要找的错误样本:
# 筛选出不符合规则的逆向转换记录 invalid_records = df_sorted[(df_sorted['prev_type'] == 2) & (df_sorted['Type'] == 1)] # 提取唯一的错误ID invalid_ids = invalid_records['ID'].unique() # 输出结果,比如你的例子里会得到array([456]) print(invalid_ids)
补充说明
- 这种方法用的是Pandas的矢量化操作,比循环效率高得多,数据量越大优势越明显;
- 如果之后要扩展检查其他逆向转换(比如Type3→Type2这类),只需要修改筛选条件即可,比如
(df_sorted['prev_type'] == 3) & (df_sorted['Type'] == 2); - 如果想查看完整的错误记录(包括时间和类型变化),直接用
invalid_records就行,不用只提取ID。
备注:内容来源于stack exchange,提问作者kd8
相关产品推荐
相关产品推荐

