ITPub博客

首页 > IT职业 > IT生活 > python爬虫时ip被封如何解决

python爬虫时ip被封如何解决

IT生活 作者:nintyuui 时间:2021-09-11 09:52:55 0 删除 编辑

1、限制要求Headers

这应该是最常见、最基本的反爬虫类手段,主要是初步判断你是否在操作真正的浏览器。

这个一般很好地解决,复制浏览器的Headers信息就可以了。

特别注意的是,很多网站只需要userAgent信息就可以通过,但也有需要验证其他信息的网站。例如,也有需要authorization的页面。因此,需要添加什么样的Headers,需要尝试,Referer、Accept-encoding等信息也许是必要的。

2、限制请求IP

有时候我们的爬虫在爬,突然出现页面打不开,403禁止访问错误,IP地址被网站禁止的可能性很高,不接受你的请求。

3、限制要求cookie

爬虫无法登录,无法保持登录状态时,请检查cookie。爬虫的cookie很可能被发现。

以上就是python爬虫时ip被封的解决方法,大家在遇到这类问题时可以尝试本篇的方法。爬虫的过程中可以结合代理ip,如果大家想测试使用下,可以尝试品易云http代理ip,免费测试包含各种类ip资源,无限调用IP量!更多Python学习指路:python爬虫

推荐操作环境:windows7系统、Python 3.9.1,DELL G3电脑。

来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/3209/viewspace-2829552/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论
  • 博文量
    87
  • 访问量
    15047