pandas如何保证读取的所有列均为字符串类型?为何dtype=str不生效
为什么dtype=str没有达到预期效果
出现这个问题的核心原因是空值解析规则:
pandas默认会将文件中识别到的空值(包括空单元格、NA、nan等默认空值标识)解析为NaN,而NaN本身属于float类型。就算指定了dtype=str,只要列中存在NaN,该列的元素就会混合字符串和float类型的NaN,取出空值对应的行时拿到的就是float类型的值,自然会在字符串拼接时报错。
如何确保读取的所有列都是字符串类型
可以根据使用场景选择以下任意一种方案:
方案1:读取时禁用默认空值解析规则
新增keep_default_na=False参数,让pandas不把默认空值标识转换为NaN,所有空内容直接解析为空字符串,确保所有值都是字符串类型:df = pd.read_csv(file, sep='\t', dtype=str, low_memory=False, keep_default_na=False)如果文件里
NA、nan这类字符串本身是有业务含义的有效值,该方案完全适用,不会出现误转问题。方案2:使用pandas专属字符串类型(pandas 1.0及以上版本支持)
把dtype=str替换为dtype="string",这是pandas专门的字符串数据类型,空值会被解析为pd.NA(属于字符串类型的缺失标记,不是float类型):df = pd.read_csv(file, sep='\t', dtype="string", low_memory=False)方案3:读取后统一处理(适用于已经完成数据读取的场景)
先把所有空值替换为空字符串,再统一转成字符串类型:df = df.fillna('').astype(str)
内容的提问来源于stack exchange,提问作者marlon
相关产品推荐
相关产品推荐

