Python 3.6中csvwriter仅写入前两个字符串问题求助
解决CSV写入仅保存前两个字符串的问题
嘿,我帮你分析下这个CSV写入异常的问题——打印正常但文件里只有前两条内容,甚至部分为空,大概率是这几个常见坑导致的,咱们一个个来排查修复:
可能的问题点及对应修复方案
1. 文件缓冲区未刷新/未正确关闭
很多新手容易忽略:写完数据后直接结束程序,没有关闭文件对象,导致缓冲区里的剩余数据没写入磁盘。比如你可能是这么写的:
csv_file = open('odds.csv', 'w', newline='') writer = csv.writer(csv_file) # 写完数据直接结束,没调用csv_file.close()
修复方式:用with上下文管理器,它会自动帮你处理文件的打开和关闭,确保所有数据都写入磁盘:
with open('football_odds.csv', 'w', newline='', encoding='utf-8') as csv_file: writer = csv.writer(csv_file) # 在这里写表头和所有数据 writer.writerow(['主队', '客队', '胜赔', '平赔', '负赔']) for match in 你的赛事列表: writer.writerow([match['主队名'], match['客队名'], match['胜赔'], match['平赔'], match['负赔']])
2. 爬取的文本包含隐形特殊字符
网页里的球队名可能藏着换行符、制表符这类看不见的字符,写入CSV后会导致解析异常,看起来像是部分内容为空。
修复方式:给爬取到的文本做个清洗,去掉多余空白字符:
def clean_text(raw_text): return raw_text.strip().replace('\n', '').replace('\t', '') # 爬取时调用这个函数 home_team = clean_text(soup.find('div', class_='team-name').text)
3. 只执行了一次写入操作,没遍历所有数据
你说打印输出正常,那可能是你只调用了一次writerow(),而不是循环遍历所有爬取到的赛事。比如你只写了前两个球队,后面的赛事根本没触发写入。
修复方式:确认你对每一条爬取到的赛事都执行了写入:
# 假设scraped_matches是你爬取到的所有赛事的列表 for match in scraped_matches: print(match['home'], match['away'], match['odds']) # 这里打印正常 writer.writerow([match['home'], match['away'], match['odds'][0], match['odds'][1], match['odds'][2]])
4. Selenium页面没加载完全就爬取
1xbet的直播页面是动态加载的,滚动才会加载更多赛事。如果你直接爬取初始页面,可能只拿到前两个赛事,自然写入的只有前两条。
修复方式:添加等待和滚动加载逻辑,确保所有赛事都加载出来:
from selenium.webdriver.common.by import By from selenium.webdriver.support.ui import WebDriverWait from selenium.webdriver.support import expected_conditions as EC # 等待页面初始赛事加载完成 WebDriverWait(driver, 10).until(EC.presence_of_element_located((By.CLASS_NAME, 'c-events__item'))) # 滚动到页面底部加载更多,重复几次确保加载完整 for _ in range(2): driver.execute_script("window.scrollTo(0, document.body.scrollHeight);") WebDriverWait(driver, 3).until(EC.presence_of_element_located((By.CLASS_NAME, 'c-events__item')))
完整可参考的代码片段
结合上面的修复点,给你一个完整的示例(注意补全你的chromedriver路径):
from selenium import webdriver from bs4 import BeautifulSoup import csv from selenium.webdriver.common.by import By from selenium.webdriver.support.ui import WebDriverWait from selenium.webdriver.support import expected_conditions as EC def clean_text(raw_text): return raw_text.strip().replace('\n', '').replace('\t', '') url = "https://1xbet.cm/en/live/Football/" # 补全你的chromedriver完整路径 driver = webdriver.Chrome("C:/Users/Christian/Desktop/WebScraper 0.5/chromedriver/chromedriver.exe") driver.get(url) try: # 等待页面加载并滚动加载更多赛事 WebDriverWait(driver, 10).until(EC.presence_of_element_located((By.CLASS_NAME, 'c-events__item'))) for _ in range(2): driver.execute_script("window.scrollTo(0, document.body.scrollHeight);") WebDriverWait(driver, 3).until(EC.presence_of_element_located((By.CLASS_NAME, 'c-events__item'))) # 解析页面 soup = BeautifulSoup(driver.page_source, 'html.parser') all_matches = soup.find_all('div', class_='c-events__item') # 写入CSV with open('football_odds.csv', 'w', newline='', encoding='utf-8') as csv_file: writer = csv.writer(csv_file) writer.writerow(['Home Team', 'Away Team', '1', 'X', '2']) for match in all_matches: # 提取主队和客队 home_team = clean_text(match.find('div', class_='c-events__team').text) away_team = clean_text(match.find('div', class_='c-events__team c-events__team_second').text) # 提取赔率 odds = match.find_all('div', class_='c-bets__item') if len(odds) >=3: odd1 = clean_text(odds[0].text) oddx = clean_text(odds[1].text) odd2 = clean_text(odds[2].text) print(home_team, away_team, odd1, oddx, odd2) writer.writerow([home_team, away_team, odd1, oddx, odd2]) finally: # 不管成功失败都关闭浏览器 driver.quit()
最后几个检查点
- 确认你的
chromedriver路径是完整的(你代码里的chr...是截断了,要补全成chromedriver.exe) - 写入CSV时指定
encoding='utf-8',避免特殊字符乱码 - 检查
all_matches的长度是否和你打印的条目数一致,确保没有漏爬赛事
内容的提问来源于stack exchange,提问作者user2939562
相关产品推荐
相关产品推荐

