You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

如何用Python/Pandas将大型CSV数据集导入数据库?

如何用Pandas读取大型餐厅营养CSV数据集并解决编码与类型警告问题

我正在开展一个数据工程项目,已为相关问题困扰一天半仍毫无进展。我需要处理包含数千行数据的大型数据集并将其导入数据库,计划使用Python Pandas库将数据读取至DataFrame中进行分析与清洗。该数据集为“2020年度餐厅营养数据集”,可免费下载。我尚未找到使用Pandas脚本成功导入大型数据集的教程,大多仅演示小文件处理。

以下是我的初始代码:

# import libraries
import numpy as np
import pandas as pd
import psycopg2

# Read CSV file into a pandas dataframe
df = pd.read_csv('C:\\Users\\rasha\Documents\\rashad\projects\\aws-fast-food\\fast-food-data-2020.csv')

# Shows headers
df.head()

尝试过程中遇到多个错误:

  • 第1次尝试:

    df = pd.read_csv('fast-food-data-2020.csv')
    

    错误:

    UnicodeDecodeError: 'utf-8' codec can't decode byte 0xe9 in position 20: invalid continuation byte

  • 第2次尝试:

    df = pd.read_csv('fast-food-data-2020.csv', encoding='UTF-8')
    

    错误:

    UnicodeDecodeError: 'utf-8' codec can't decode byte 0xe9 in position 52676: invalid continuation byte

  • 第3次尝试:

    df = pd.read_csv('fast-food-data-2020.csv', encoding='latin-1')
    

    错误:

    DtypeWarning: Columns (12,13,14,15,16,17,18,19,20,21,22,24,25,26,27,28,29,30,37,49,52) have mixed types. Specify dtype option on import or set low_memory=False.
    df = pd.read_csv('fast-food-data-2020.csv', encoding='latin-1')

  • 第4次尝试:

    df = pd.read_csv('fast-food-data-2020.csv', error_bad_lines=False, index_col=False, dtype='unicode')
    

    错误:

    UnicodeDecodeError: 'utf-8' codec can't decode byte 0xe9 in position 20: invalid continuation byte

  • 第5次尝试:

    df = pd.read_csv('fast-food-data-2020.csv', low_memory=False)
    

    错误:

    UnicodeDecodeError: 'utf-8' codec can't decode byte 0xe9 in position 20: invalid continuation byte

  • 第6次尝试:

    df = pd.read_csv('fast-food-data-2020.csv', engine='python')
    

    错误:

    UnicodeDecodeError: 'utf-8' codec can't decode byte 0xe9 in position 3524: invalid continuation byte

我将先暂停休息,希望之后能想出解决方案,同时恳请各位提供建议与反馈,非常感谢。


内容的提问来源于stack exchange,提问作者Rashad Nelson

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.08.10 14:20:34