You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

如何阻止Cloudflare为部分页面添加X-Robots-Tag?

阻止Cloudflare自动添加X-Robots-Tag(noindex, follow)的解决方案
  • 检查Cloudflare机器人管理配置
    登录Cloudflare控制台,找到对应域名的「机器人管理」板块,查看是否存在自动为特定页面或爬虫添加noindex标签的策略,如有则调整规则,取消该设置。

  • 排查Cloudflare页面规则
    进入「页面规则」界面,检查是否有针对目标页面设置的响应头修改规则,若存在添加X-Robots-Tag(noindex, follow)的规则,直接删除或修改该规则。

  • 核查Cloudflare Workers与Transform Rules
    查看是否通过Workers脚本或Transform Rules(响应头转换规则)注入了该标签,如有相关逻辑,调整或删除对应的脚本/规则。

  • 清理并调整Cloudflare缓存
    手动清除目标页面的Cloudflare缓存,同时检查缓存规则配置,确保服务器返回的原始响应头能被正确保留,不被Cloudflare篡改。

  • 联系Cloudflare官方支持
    若以上操作均无效,提交工单联系Cloudflare技术支持,提供已验证的关键信息(绕过Cloudflare后页面无该标签、自身服务器未配置相关头信息等),请求排查具体原因。

内容的提问来源于stack exchange,提问作者alancc

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.07.04 19:15:56