Pandas检查DataFrame列是否为Epoch时间时整列与单值结果不一致
问题根因
你遇到的批量校验和单值校验结果不一致的问题,根源是pd.to_numeric对不同输入类型的处理逻辑存在差异:
- 传入pandas datetime64类型的整列数据时,pandas会自动将datetime值隐式转换为纳秒级时间戳整数(int64类型),因此
pd.to_numeric全部转换成功,返回非空值,导致isepoch列全为True。 - 传入单个Python原生datetime对象时,
pd.to_numeric没有对应的隐式转换逻辑,无法识别该类型为合法数值,会返回NaN,因此单值校验结果为False。
你当前使用的检测逻辑本身存在适用场景偏差:该逻辑仅适用于存储为字符串、整数类型的Epoch时间校验,而你生成的date_time列本身就是datetime类型,存储的已经是解析后的时间对象,自然不属于Epoch/UNIX时间格式,校验前提不成立。
修正后的Epoch时间校验逻辑
可先判断列类型,再增加数值范围校验(避免普通整数被误判为Epoch),实现更准确的检测:
import pandas as pd from datetime import datetime, timedelta def is_epoch_column(series: pd.Series) -> pd.Series: # 已为datetime类型的列,不可能存储原始Epoch值,直接返回False if pd.api.types.is_datetime64_any_dtype(series): return pd.Series([False]*len(series), index=series.index) # 仅对数值、字符串类型列做转换校验 numeric_series = pd.to_numeric(series, errors='coerce') # 常见Epoch时间为10位秒级、13位毫秒级,增加范围过滤减少误判 return pd.notnull(numeric_series) & (numeric_series >= 1e9) & (numeric_series <= 1e13) # 测试代码 temp_list = [] i = 1 while i < 10: d = { 'ticker': 'TEST', 'date_time': datetime.now() + timedelta(days=i), 'price': 100 + i, 'volume': i } temp_list.append(d) i += 1 test_df = pd.DataFrame(data=temp_list) test_df['isepoch'] = is_epoch_column(test_df['date_time']) print(test_df)
运行后isepoch列所有值均为False,和预期结果一致。
内容的提问来源于stack exchange,提问作者Varun Panchal
相关产品推荐
相关产品推荐

