ITPub博客

首页 > 数据库 > 数据库开发技术 > 盘点一个Python网络爬虫抓取股票代码问题(下篇)

盘点一个Python网络爬虫抓取股票代码问题(下篇)

原创 数据库开发技术 作者:Python进阶者 时间:2023-07-04 09:00:00 0 删除 编辑
点击上方“Python爬虫与数据挖掘”,进行关注

回复“书籍”即可获赠Python从入门到进阶共10本电子书

今

日

鸡

汤

夜深忽梦少年事,梦啼妆泪红阑干。

大家好,我是皮皮。

一、前言

前几天在Python白银群【厚德载物】问了一个Python网络爬虫的问题,这里拿出来给大家分享下。

二、实现过程

这个问题其实for循环就可以搞定了,看上去粉丝的代码没有带请求头那些,导致获取不到数据。后来【瑜亮老师】、【小王子】给了具体思路,可以帮助粉丝解决问题。

后来他自己在运行的时候,还遇到了一个异常,报错如下:

这个问题看上去应该是没获取到数据,后来【魏哥】针对该问题,给了一个异常处理方案,如下所示:

res = response.json()
try:
    data = res["data"]
    symbol1 = data["quote"]["symbol"]
    name = data["quote"]["name"]
    current = data["quote"]["current"]
    chg = data["quote"]["chg"]
    percent = data["quote"]["percent"]
    print(symbol1, name, current, chg, percent)
    with open('股票.csv', 'a+', encoding='utf-8') as f:
        f.write('{},{},{},{},{}\n'.format(symbol1, name, current, chg, percent))
except:
    print("该股票url无具体信息: ", symbol)

不过后来这个异常处理,不被看好。这里【瑜亮老师】给优化了下程序,代码如下:

    if res['data']['tags'] is not None:
        data = res["data"]
        symbol1 = data["quote"]["symbol"]
        name = data["quote"]["name"]
        current = data["quote"]["current"]
        chg = data["quote"]["chg"]
        percent = data["quote"]["percent"]
        print(symbol1, name, current, chg, percent, " ==> 数据下载成功!")
        with open('股票.csv', 'a+', encoding='utf-8') as f:
            f.write('{},{},{},{},{}\n'.format(symbol1, name, current, chg, percent))
    else:
        print(f"{symbol}无具体信息: ", res)
    time.sleep(1)

后来测试发现,其实把if res['data']['tags'] is not None:中的 is not None可以去除,只不过加上的话,对新手比较友好。另外的话,用【瑜亮老师】代码中的if res['data']['tags']也是可以的,将判断中的标签改为if res['data']['quote']:,这样打印的时候,会更加直观一些。

顺利地解决了粉丝的问题。方法很多,条条大路通罗马,能解决问题就好。

最后【kim】还分享了一个知识点,常见的类型报错原因,希望对大家的学习有帮助。

三、总结

大家好,我是皮皮。这篇文章主要盘点了一个Python网络爬虫的问题,文中针对该问题,给出了具体的解析和代码实现,帮助粉丝顺利解决了问题。

最后感谢粉丝【此类生物】提问,感谢【瑜亮老师】、【魏哥】、【kim】、【巭孬嫑勥烎】给出的思路和代码解析,感谢【冫马讠成】、【Ineverleft】等人参与学习交流。

【提问补充】温馨提示,大家在群里提问的时候。可以注意下面几点:如果涉及到大文件数据,可以数据脱敏后,发点demo数据来(小文件的意思),然后贴点代码(可以复制的那种),记得发报错截图(截全)。代码不多的话,直接发代码文字即可,代码超过50行这样的话,发个.py文件就行。

大家在学习过程中如果有遇到问题,欢迎随时联系我解决(我的微信:pdcfighting1),应粉丝要求,我创建了一些高质量的Python付费学习交流群和付费接单群,欢迎大家加入我的Python学习交流群和接单群!

小伙伴们,快快用实践一下吧!如果在学习过程中,有遇到任何问题,欢迎加我好友,我拉你进Python学习交流群共同探讨学习。

------------------- End -------------------

往期精彩文章推荐:

欢迎大家点赞,留言,转发,转载,感谢大家的相伴与支持

想加入Python学习群请在后台回复【入群】

万水千山总是情,点个【在看】行不行

/今日留言主题/

随便说一两句吧~~

原文作者:Python爬虫与数据挖掘;如有侵权,请联系管理员删除。

请登录后发表评论 登录
全部评论

注册时间:2024-12-18

  • 博文量
    913
  • 访问量
    379758