
1、封锁IP检测即检测用户IP访问的速度
如果访问速度达到设定阈值,则打开限制封锁IP,使爬虫终止无法继续获取数据。针对封锁IP检测,可以用太阳HTTP代理IP,大量IP地址可供切换,实现突破IP限制。
2、请求头检测。
爬虫不是用户,访问时没有其他特点。网站可以通过检测爬虫的请求头来检测对方是用户还是爬虫。
3、验证码检测就是登录验证码限制设置。
登录验证码限制设置。如果您没有输入正确的验证码,您将无法息。因为爬虫可以借用其它工具来识别验证码,所以网站不断地加深验证的难度,从普通的纯数据源验证码到混合验证码,还是滑动验证码,图片验证码等等。
4、cookie检测。
浏览器会保存cookie,所以网站会通过检测cookie来确定你是否是真正的用户,如果爬虫没有伪装好,就会触发限制访问。
可通过上述方法网站对爬虫进行监控,对爬虫从业者也可根据这些方法逐个击破,爬虫与反爬虫是一场持久的战斗。
(推荐操作系统:windows7系统、Internet Explorer 11,DELL G3电脑。)
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/3356/viewspace-2828314/ ,如需转载,请注明出处,否则将追究法律责任。