ITPub博客

首页 > 大数据 > 数据挖掘 > selenium+python设置爬虫代理IP的方法

selenium+python设置爬虫代理IP的方法

数据挖掘 作者:犀牛小牛 时间:2019-04-17 14:06:19 0 删除 编辑

1. 设置背景

在使用selenium浏览器渲染技术,当我们爬取某个网站的信息的时候,在一般情况下速度都不是特别的快。而且需要利用selenium浏览器渲染技术爬取的网站,反爬虫的应对技术都比较厉害,对IP访问频率有很高程度的限制。所以, 如果想提升selenium抓取数据的速度,可以从两个方面出发:

第一方面, 抓取频率要提高,破解出现的验证信息,一般都是验证码或者是用户登陆 。

第二方面,使用多线程 + 代理IP, 这种方式,需要电脑有足够的内存和充足稳定的代理IP。

2. 为chrome设置代理IP

注意事项: 

第一,选择稳定的固定的代理IP。不要选择动态代理IP。我们常用的爬虫IP代理通常都是具有高度保密性质的高匿名动态IP,是通过 拨号动态产生的,时效性非常的短,一般都是在3分钟左右。 对于scrapy这种并发度很高,又不需要登录的爬虫来说,非常合适,但是在浏览器渲染类爬虫中并不适用。

第二,选择速度较快的代理IP。 因为selenium爬虫采用的是浏览器渲染技术,这种 浏览器渲染技术 速度就本身就很慢。如果选择的代理IP速度较慢,爬取的时间就会进一步增加。

第三,要有足够大的电脑内存。因为chrome占内存较大,在并发度很高的情况下,容易造成浏览器崩溃,也就是程序崩溃。

第四,在程序结束时,调用 browser.quit( ) 清除浏览器缓存。

3. 需要用户名密码验证的代理


来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/31555707/viewspace-2641640/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2018-09-27

  • 博文量
    21
  • 访问量
    29538