欢迎您光临自学哈网,只为分享网络知识教程,供大家学习参考!

「自学哈网」搜索引擎蜘蛛爬虫名大全汇总!

作者 : 自学哈 本文共1292个字,预计阅读时间需要4分钟 2022-11-26 共154人阅读
也想出现在这里? 联系我们

对于SEO优化工作者们清楚掌握主流搜索引擎的爬虫名称十分的关键,因为当分析网站日志的时候来分析爬取情况,以及如果为了保护站点内容的时候的需要屏蔽搜索引擎爬取,这两者都要基于清楚的了解搜索引擎对应的名称才能实现。掌握各大搜索引擎蜘蛛爬虫,对我们开展网站SEO优化具有挺大作用,精品源码网小编搜集了各大搜索引擎的蜘蛛爬虫UA,便于你需要时查看。

1、搜索引擎蜘蛛:BaiduSpider

搜索引擎公司还有其它几个蜘蛛:Baiduspider-video(抓取视频)、Baiduspider-news(抓取新闻)、Baiduspider-mobile(抓取wap),都不常见。

2、搜索引擎蜘蛛爬虫UA:

PC端:Mozilla/5.0 (compatible; Baiduspider-render/2.0;
+http://www.baidu.com/search/spider.html)

移动端:Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 like Mac OS X)
AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143 Safari/601.1
(compatible; Baiduspider-render/2.0;
+http://www.baidu.com/search/spider.html)

图片:“Baiduspider-image+(+http://www.baidu.com/search/spider.htm)”

3、谷歌蜘蛛:Googlebot

有人说谷歌蜘蛛是GoogleBot,官方谷歌蜘蛛最新名称为Googlebot,还发现了Googlebot-Mobile,看名字是应该是抓取wap内容的。谷歌蜘蛛爬虫UA:“Mozilla/5.0
(compatible; Googlebot/2.1;
+http://www.google.com/bot.html)”,图片:“Googlebot-Image/1.0”。

4、360蜘蛛:360Spider

它是一个十分“勤奋抓爬”的蜘蛛。360蜘蛛爬虫UA:Mozilla/5.0 (compatible; MSIE 9.0; Windows NT
6.1; Trident/5.0);

5、搜狗蜘蛛:Sogou News Spider

搜狗公司还有其它几个蜘蛛:Sogou web spider、Sogou inst spider、Sogou spider2、Sogou
blog、Sogou Orion spider。搜狗蜘蛛爬虫UA:“Sogou web
spider/4.0(+http://www.sogou.com/docs/help/webmasters.htm#07)”

6、必应蜘蛛:bingbot

必应蜘蛛爬虫UA:“Mozilla/5.0 (compatible; bingbot/2.0;
+http://www.bing.com/bingbot.htm)”

以上就是《搜索引擎蜘蛛爬虫名大全汇总!》的全部内容,仅供站长朋友们互动交流学习,SEO优化是一个需要坚持的过程,希望大家一起共同进步。

本站声明:
本站所有资源来源于网络,分享目的仅供大家学习和交流!如若本站内容侵犯了原著者的合法权益,可联系邮箱976157886@qq.com进行删除。
自学哈专注于免费提供最新的分享知识、网络教程、网络技术的资源分享平台,好资源不私藏,大家一起分享!

自学哈网 » 「自学哈网」搜索引擎蜘蛛爬虫名大全汇总!
也想出现在这里? 联系我们
© 2022 Theme by - 自学哈网 & WordPress Theme. All rights reserved 浙ICP备2022016594号