ITPub博客

首页 > IT职业 > IT图书 > 怎么维护爬虫网站代理

怎么维护爬虫网站代理

IT图书 作者:jinxiaoliang 时间:2021-09-11 09:53:22 0 删除 编辑

怎么维护爬虫网站代理.png

现在网上爬虫工作者很多。你知道如何维护爬虫代理IP池吗?让我们一起看看:

一、自行购买IP地址,做代理池

可以用各种云交换IP的api(弹性IP),以几个例子出口,关闭后交换IP,看IP的价格,看IP的价格是不现实的,理论上比上一个便宜,但还是很贵。

阿里巴巴云最便宜的主机(国产网络主机,没有公共网络IP)价格在60元左右。如果自己做代理池,并行出口需要多少主机?假设一次需要10个IP出口,那么主机价格是600元。另一个1MbpsIP30元左右,IP300元左右。每个月建一个代理池要花近1000元,真的负担不起。

并且云主机厂商的IP地址往往是连续的,很可能都是在C段内交换的,此时对于直接封禁IP段的网站来说是无法解决的。

二、直购代理

这些代理商可以扫描,价格最便宜,但可用性低,需要自己验证,其次是自建机房。这个IP质量还可以,最好是家庭IP,通过家庭宽带生成的IP。这个IP和普通网民使用的IP一致,可用性高,不易密封。

买代理的价格大概是一天几块到几十块不等,不同的厂家厂家差不多,一个月至少要几百块。但以前听同事说这些代理的可用性一般,拿到代理还需要自己核实是否可用,即花钱还是不能用,自然就没有购买的欲望。

三、销售代理网站

一般来说,销售代理网站往往会在首页提供一些免费代理来吸引流量,从几十到几百不等,初步测试几个就可以使用了。现在直接购买代理也需要验证,不如直接抓取他们网站上提供的免费代理。确定入库后,直接选择一个。

其实自建代理池并不难。如何维护是个问题。很多人因为太忙没有足够的时间维护IP池,所以选择直接购买代理池,花钱购买。

来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/3996/viewspace-2829640/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2019-10-17

  • 博文量
    73
  • 访问量
    536