Robots协议-用法举例
浏览：98次
发布时间：2017-08-27
分享
评论
赞0
例1. 禁止所有搜索引擎访问网站的任何部分
User-agent: *
Disallow: /
例2. 允许所有的robot访问 （或者也可以建一个空文件 “/robots.txt” file）
User-agent: *
Allow: /
例3. 仅禁止Baiduspider访问您的网站
User-agent: Baiduspider
Disallow: /
例4. 仅允许Baiduspider访问您的网站
User-agent: Baiduspider
Allow: /
User-agent: *
Disallow: /
猜你喜欢
评论(0人参与，0条评论)
发布评论
最新评论