如何优化Pandas中df.assign创建多布尔衍生列的运行效率?
优化Pandas批量布尔列创建的方法
嘿,我明白你遇到的问题了——用map加嵌套lambda来创建这些布尔列确实会很慢,因为这本质上是在逐元素进行Python层面的循环,而Pandas最擅长的是向量化操作,能把计算推到底层的Numpy(C实现)去执行,速度会快很多。
直接用向量化比较替代逐元素lambda
你完全可以抛弃map(lambda x: x>threshold)这种写法,直接用Series的向量化比较。比如data['value'] > 0会直接返回一个布尔值的Series,而且是批量计算的,效率极高。
优化后的代码应该是这样的:
data_cat = data.assign( type0=data['value'] > 0, type1=data['value'] > 1, type2=data['value'] > 2 )
为什么这能提速?
原来的写法里,map会遍历value列的每一个元素,然后调用lambda函数做判断——这是Python级别的循环,每一次判断都有额外的开销。而向量化比较是让Numpy一次性处理整个数组的数值,完全避开了Python循环的开销,对于5万多行的数据来说,速度提升会非常明显。
进阶:如果有更多阈值怎么办?
要是你后面需要加更多类似的列(比如type3: x>3、type4: x>4),可以用循环批量生成,避免重复代码:
thresholds = { 'type0': 0, 'type1': 1, 'type2': 2 } # 方式1:直接在原DataFrame上批量添加列 for col_name, threshold in thresholds.items(): data[col_name] = data['value'] > threshold # 方式2:用assign一次性生成新的DataFrame data_cat = data.assign(**{col: data['value'] > thresh for col, thresh in thresholds.items()})
这样既保持了代码的简洁性,又能持续享受向量化操作的速度优势。
内容的提问来源于stack exchange,提问作者lmglm
相关产品推荐
相关产品推荐

