Google Search Console页面未索引:新闻帖链接异常问题求助
阻止Google抓取带邮箱/feed后缀的异常链接方案
1. 配置robots.txt规则
通过网站根目录的robots.txt文件,直接禁止Google抓取符合异常模式的链接:
- 针对带邮箱后缀的链接(如
xxx.com/post/xxx@xxx.com或xxx.com/post?email=xxx@xxx.com):- 匹配含@的路径:
Disallow: */*@* - 匹配带email参数的链接:
Disallow: *?email=
- 匹配含@的路径:
- 针对/feed后缀的链接(如
xxx.com/post/feed):Disallow: */feed
2. 给异常页面添加noindex元标签
如果这些异常链接指向实际存在的页面(比如动态生成的错误页面),在页面的<head>部分插入以下元标签,强制Google不索引该页面:
<meta name="robots" content="noindex">
可以通过后端逻辑判断URL是否包含邮箱后缀或/feed路径,动态为这类页面添加该标签。
3. 利用Google Search Console工具处理
- 进入Search Console的「移除」功能,提交异常链接的匹配模式或具体URL,请求Google停止抓取和索引这些内容。
- 在「覆盖率」报告中,将这些异常链接标记为「无效」或「已修复」,帮助Google更新索引状态。
4. 修复异常链接的生成源头
排查网站内部的链接生成逻辑、第三方插件、分享工具或爬虫脚本,找到导致邮箱/feed后缀被附加到帖子链接的原因(比如错误的订阅脚本、自动生成的参数bug),从根源上停止异常链接的产生。
内容的提问来源于stack exchange,提问作者Nosisnews
相关产品推荐
相关产品推荐

