You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

Scrapy爬虫无法爬取本地HTTP服务的问题求助

Scrapy爬虫无法爬取本地HTTP服务的问题求助

我之前用Scrapy写了个小型网络爬虫,开发的时候为了不打扰真实网站,一直用本地镜像做测试。当时用python -m http.server 8000启动本地服务,爬虫跑起来完全没问题。

可最近把开发环境换到Mac上之后,怪事就来了——爬虫好像连尝试访问本地HTTP服务的动作都没有,日志里只刷出重试的记录:

2025-05-18 20:05:43 [scrapy.downloadermiddlewares.retry] DEBUG: Retrying <GET http://localhost:1234/robots.txt> (failed 1 times): [<twisted.python.failure

有没有大佬能帮忙分析下这是咋回事呀?

内容来源于stack exchange

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.04.08 12:15:28