ITPub博客

首页 > 数据库 > 数据库开发技术 > 大佬们有没有办法把这个json变成sql db或者df?

大佬们有没有办法把这个json变成sql db或者df?

原创 数据库开发技术 作者:Python进阶者 时间:2022-08-27 09:00:00 0 删除 编辑
点击上方“Python爬虫与数据挖掘”,进行关注

回复“书籍”即可获赠Python从入门到进阶共10本电子书

今

日

鸡

汤

黄金燃桂尽,壮志逐年衰。

大家好,我是皮皮。

一、前言

前几天在Python白银交流群【HugoLB】问了一个Python处理json文件的问题,提问截图如下:

二、实现过程

这里【此类生物】提示使用pandas中的read_json()函数来处理,【dcpeng】给出了代码如下图所示:

看上去好像也没啥问题,但是并不是粉丝想要的。

【dcpeng】还想到了jsonpath,另外正则表达式应该也可以做,代码如下:

import json
import jsonpath

obj = json.load(open('EN_soccer_straight.json', 'r', encoding='utf-8'))
follower = jsonpath.jsonpath(obj, '$..data')
print(follower)

后来【此类生物】也给了一份代码,如下所示:

但是仍然不是他想要的,因为担心数据处理太麻烦。

如果是这样的话,需要读取后再处理下才行。

后来他自己给了一个代码,看上去没啥问题了,代码如下:

from pandas.io.json import json_normalize
import pandas
import json

f = open('./clean/data/EN_soccer_straight.json', 'r')
data = json.loads(f.read())
f.close()


def dat(x):
    if x == None:
        return None
    else:
        return x['data']


df = pandas.DataFrame.from_dict(
    orient='index',
    columns=['home', 'away', 'matchup_id', "-3.5", "-3.25", "-3.0", "-2.75", "-2.5", "-2.25", "-2.0", "-1.75", "-1.5",
             "-1.25", "-1.0", "-0.75", "-0.5", "-0.25", "0.0", "0.25", "0.5", "0.75", "1.0", "1.25", "1.5", "1.75",
             "2.0", "2.25", "2.5", "2.75", "3.0", "3.25", "3.5", "3.75", "4.0", "4.25"],
    data=data)

for odds in ["-3.5", "-3.25", "-3.0", "-2.75", "-2.5", "-2.25", "-2.0", "-1.75", "-1.5", "-1.25", "-1.0", "-0.75",
             "-0.5", "-0.25", "0.0", "0.25", "0.5", "0.75", "1.0", "1.25", "1.5", "1.75", "2.0", "2.25", "2.5", "2.75",
             "3.0", "3.25", "3.5", "3.75", "4.0", "4.25"]:
    df[odds] = df[odds].apply(dat)

print(df.head(10))
df.to_csv('out.csv')

直接用这个代码对原始的json文件进行处理,还是会报错的,后来才知道他自己稍微改了下数据结构。

最终得到的数据如下所示:

这样看上去确实清晰了很多,接下来开站相关的数据分析工作,就可以顺利进行了。

最后补充个知识点,json.dumps()方法将字典转换为json格式的字符串;json.loads()将json格式的字符串转换为字典格式。另外,json模块也可以与文件进行交互,使用dump()方法和load()方法。

三、总结

大家好,我是皮皮。这篇文章主要盘点了一个Python列表推导式处理的问题,文中针对该问题给出了具体的解析和代码实现,帮助粉丝顺利解决了问题。

最后感谢粉丝【HugoLB】提问,感谢【此类生物】、【dcpeng】、【猫药师Kelly】、【论草莓如何成为冻干莓】给出的思路和代码解析,感谢【PI】、【dcpeng】、【冫马讠成】等人参与学习交流。

大家在学习过程中如果有遇到问题,欢迎随时联系我解决(我的微信:pdcfighting),应粉丝要求,我创建了一些高质量的Python付费学习交流群,欢迎大家加入我的Python学习交流群!

小伙伴们,快快用实践一下吧!如果在学习过程中,有遇到任何问题,欢迎加我好友,我拉你进Python学习交流群共同探讨学习。

------------------- End -------------------

往期精彩文章推荐:

欢迎大家点赞,留言,转发,转载,感谢大家的相伴与支持

想加入Python学习群请在后台回复【入群】

万水千山总是情,点个【在看】行不行

/今日留言主题/

随便说一两句吧~~

原文作者:Python爬虫与数据挖掘;如有侵权,请联系管理员删除。

请登录后发表评论 登录
全部评论

注册时间:2024-12-18

  • 博文量
    913
  • 访问量
    379587