摘要: 1. robots.txt可以告诉百度您网站的哪些页面可以被抓取,哪些页面不可以被抓取。 2. 您可以通过Robots工具来创建、校验、更新您的robots.txt文件,或查看您网站robots.txt文件在百度生效的情况。 3. Robots工具目前支持48...
1. robots.txt可以告诉百度您网站的哪些页面可以被抓取,哪些页面不可以被抓取。
2. 您可以通过Robots工具来创建、校验、更新您的robots.txt文件,或查看您网站robots.txt文件在百度生效的情况。
3. Robots工具目前支持48k的文件内容检测,请保证您的robots.txt文件不要过大,目录最长不超过250个字符。
哔哩哔哩大会员2.68元/月,6.88元/3个月,请点本站上边链接购买
2020年07月27日 21:28:24
随机账号机器密码:
97WN911lcC DL02rf547
25WT353 AV03fy374E
50TJ43 XJ89qs684Fxhj4
79YF288gmZ67 DH80xj
09YA828toE82v YL36
会员登录关闭
注册会员关闭