robots封禁后_为什么线上结果没有立刻消除或百度爬虫依旧对封禁目录进行抓取
文章来源：2游玩软件园
作者：2游玩软件园
人气：12
2020-12-26 21:43:43
您好，网站在设置robots封禁，您可以使用站长平台的robots工具进行更新，更新后可以尝试使用抓取诊断工具进行检测。 百度在robots封禁后，百度可以保证不再对robots封禁的网站和目录进行抓取，但无法保证线上结果会立即消除，线上更新需要一定周期。如您站想快速删除索引，您可以将域名设置404状态，使用死链工具进行提交。如问题依旧存在，请进行人工反馈。
阅读本文的人还可以阅读：
Robots.txt 文件应放在哪里？
robots.txt
