重新整理了当前各搜索引擎的蜘蛛机器人爬虫名称,方便设置waf规则。

搜索引擎 名称 蜘蛛机器人名称 备注
google.com Google Googlebot,Googlebot-Image,Google-Read-Aloud,Googlebot-Video 美国
bing.com Bing bingbot,BingPreview 美国
msn.com MSN msnbot,msnbot-media 美国
yahoo.com Yahoo Yahoo! Slurp China,Yahoo 美国
yandex.com Yandex YandexBot 俄罗斯
baidu.com 百度 Baiduspider,Baiduspider-image,baiduboxapp,Baiduspider-render 中国
so.com 360搜索 360Spider 中国
sogou.com 搜狗 SogouSpider,Sogou web spider 中国
toutiao.com 头条 Bytespider 中国
sm.cn 神马 YisouSpider 中国
soso.com 搜搜 sosospider 中国

有些名称没办法一一查证,先记录以便后续使用,可以对比以前收集的资料:各大搜索引擎蜘蛛名称『转』