如何解析Blogspot博客全部文章URL?解决Feed结果数量限制
搞定Blogger Feed只能拿500篇文章的问题
嘿,我之前也踩过这个坑!Blogger的Feed API有个硬限制:单请求最多返回500篇文章,哪怕你把max-results设成1000也没用。要获取所有文章,得靠分页遍历,利用Feed返回的「下一页」链接循环请求,直到没有更多内容为止。
方案一:用feedparser实现自动分页
直接修改你的代码,加入分页逻辑就行,思路是每次请求后检查结果里的next链接,有就继续请求:
import feedparser def fetch_all_blog_posts(blog_id): # 初始请求链接,max-results固定设为500(上限) current_url = f'https://www.blogger.com/feeds/{blog_id}/posts/default?max-results=500' all_post_links = [] while current_url: # 解析当前页的Feed feed_data = feedparser.parse(current_url) # 提取当前页的所有文章链接 all_post_links.extend([entry.link for entry in feed_data.entries]) # 寻找下一页的链接 current_url = None for link in feed_data.feed.get('links', []): if link.get('rel') == 'next': current_url = link.get('href') break return all_post_links # 替换成你的博客ID your_blog_id = '1020819187099399113' all_links = fetch_all_blog_posts(your_blog_id) print(f"总共获取到 {len(all_links)} 篇文章链接") for link in all_links: print(link)
方案二:用Blogger官方API(更稳定)
如果需要更可靠的获取方式,可以用Google官方的Blogger API(需要简单申请API密钥),它用pageToken来处理分页,步骤大概是:
- 去Google Cloud Console创建项目,启用Blogger API
- 生成API密钥后,用类似下面的请求格式循环获取:
GET https://www.googleapis.com/blogger/v3/blogs/{blog_id}/posts?key={你的API密钥}&maxResults=500&pageToken={下一页的token}
这个方法的好处是官方维护,功能更全,还能获取文章的更多元数据(比如发布时间、作者等)。
小提醒
- 别太频繁请求,Blogger对API调用频率有限制,不然可能会被临时限流
- 有些旧博客里的已删除文章,Feed和API里都不会返回,这是正常的
内容的提问来源于stack exchange,提问作者Edward
相关产品推荐
相关产品推荐

