ITPub博客

首页 > IT职业 > IT图书 > 构建header在python爬虫中出错怎么解决?

构建header在python爬虫中出错怎么解决?

IT图书 作者:bluepeach 时间:2021-09-11 10:07:45 0 删除 编辑

最近频繁讲到header模块的知识,受到很多小伙伴们的询问,看来大家对获取新数据之类的资料需求量比较多,接下来小编也会着重于这方面的文章更新。今天主要讲的是之前使用常见user-agent方法出现的报错问题,出于python初学者处理此类问题会比较棘手,所以我们一起来学习一下吧。


想让host在user-agent的位置,该怎么办?如果不换的话,请求会报500的错误


解决:

import requests
 
Information = requests.Session()
print(Information.headers)
 
Information.headers.update({
    "Accept-Encoding": "identity",
    "Content-Type": "application/x-www-form-urlencoded; charset=utf-8",
    "User-Agent": "Dalvik/2.1.0 (Linux; U; Android 9; Redmi Note 5 MIUI/20.1.16)",
    "Connection": "Keep - Alive",
    "Accept": None
})
print(Information.headers)
 
Information.headers.clear()
Information.headers.update({
    "Accept-Encoding": "identity",
    "Content-Type": "application/x-www-form-urlencoded; charset=utf-8",
    "User-Agent": "Dalvik/2.1.0 (Linux; U; Android 9; Redmi Note 5 MIUI/20.1.16)",
    "Connection": "Keep - Alive",
    "Accept": None
})
print(Information.headers)
关键点在于 "Information.headers.clear()"


对于此类用user-agent在构建header出错的小伙伴,都可以试试小编的这种方法。看看能不能顺利解决,不行的话小编再跟大家一起寻求其他的方法。更多Python学习推荐:PyThon学习网教学中心。


来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/2558/viewspace-2832070/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论
  • 博文量
    103
  • 访问量
    22747