如果想要顺利开展爬虫，那么最好学会使用代理ip，以下是使用代理ip的步骤：
1、每个过程界面随机取得IP列表反复使用，无效后调用API获得。
大致逻辑如下：
（1）各过程，从接口随机回收ip的一部分，反复尝试ip目录来捕捉数据
（2）如果访问成功，继续抓住下一个。
（3）失败后，从界面取IP，继续尝试。
方案缺点:所有IP都有期限，提取100个，使用第20个时，其馀的可能不能使用。设置HTTP请求时连接时间超过3秒，读取时间超过5秒，可能需要3~8秒，在这3~8秒内可能抓住数百次。
2、首先抽取大量的IP，导入本地数据库，然后从数据库中抽取IP。
通用的逻辑如下：
（1）在数据库中创建一个表格，写出每分钟需要多少次API的导入脚本(请咨询代理IP服务提供者的建议)，并将IP清单导入数据库。
（2）将导入时间、IP、端口、过期时间、IP可用状态等字段记录到数据库中；
（3）编写一个抓取脚本，该抓取脚本从数据库中读取可用IP，每个过程都从数据库中获取一个IP用法。
（4）进行抓取、判断结果、处理cookie等，只要出现验证码或错误，就放弃IP，重新更换IP。
以上就是爬虫使用ip代理的方法，推荐大家使用太阳http代理ip，千万ip资源百兆带宽，保证爬虫数据传输安全。提供高匿稳定代理ip服务，方便快捷获取网站数据，免费测试正在进行！
推荐操作环境：windows7系统、Python 3.9.1，DELL G3电脑。
来自 “ ITPUB博客 ” ，链接：https://blog.itpub.net/758/viewspace-2828132/ ，如需转载，请注明出处，否则将追究法律责任。
