如何判断百度蜘蛛是真假 为服务器减压
作者:佚名 时间:2014-05-14
很多站长都发有发现一个问题:我们的网站日志经常有一些莫名其妙的类似百度蜘蛛一样的信息,百度spider光顾过于频繁,已超越服务器承受能力。而51统计网经过和广大站长研究以及实验发现,Baiduspider对站点的抓取并无异常,而那些spider极有可能是假的蜘蛛,所以下面上海联楷科技小编教大家怎么判断百度蜘蛛的真假,为服务器减压。
那么,我们应该如何通过IP来判断spider是不是来自百度搜索引擎的呢?
可以通过DNS反查方式来解决这个问题。根据平台不同验证方法不同,如linux/windows/os三种平台下的验证方法分别如下:
1、在mac os平台下,你可以使用dig 命令反解ip来判断是否来自百度spider的抓取。打开命令处理器,输入dig xxx.xxx.xxx.xxx(IP地 址)就能解析ip, 来判断是否来自Baiduspider的抓取,Baiduspider的hostname以*.baidu.com 或*.baidu.jp的格式命名。
2、在linux平台下,可以使用host ip命令反解ip来判断是否来自Baiduspider的抓取。Baiduspider的hostname以 *.baidu.com 或 *.baidu.jp 的格式命名。
3、在windows平台或者IBM OS/2平台下,可以使用nslookup ip命令反解ip来 判断是否来自Baiduspider的抓取。打开命令处理器 输入nslookup xxx.xxx.xxx.xxx(IP地 址)就能解析ip, 来判断是否来自Baiduspider的抓取,Baiduspider的hostname以*.baidu.com 或*.baidu.jp的格式命名。
温馨提示:非 *.baidu.com 或 *.baidu.jp 格式命名的,即为假的为冒充。大家可以去试试以上说的方法,联楷小编可以经过多次测试得出的结论哦,其实很多东西我们通过学习经验总结,都会找到一个适合的处理方法。