ITPub博客

首页 > 数据库 > Oracle > Orca: 基于DolphinDB的分布式pandas接口

Orca: 基于DolphinDB的分布式pandas接口

原创 Oracle 作者:zhuoiqwlyjnq 时间:2021-02-09 21:16:26 0 删除 编辑

  Orca项目在DolphinDB之上实现了pandas API,使用户能更高效地分析处理海量数据。

  如果你已经熟悉pandas,你就能通过Orca包,充分利用DolphinDB的高性能和并发,处理海量数据,而不需要额外的学习曲线。如果你已经有现成的pandas代码,你不需要对已有的pandas代码进行大量修改,就能迁移到Orca。

  目前,Orca项目仍然处于开发阶段,并且在快速迭代。我们欢迎你在使用Orca的同时,通过GitHub issues给我们反馈。

  Orca的设计理念

  Python的第三方库pandas是一个强大的分析结构化数据的工具,具有高性能、接口易用、易学习的特点,在数据科学和量化金融领域广受欢迎。然而,当我们开始处理TB级别的海量数据时,单核运行的pandas就显得力不从心;pandas的高内存占用也是影响其发挥的限制之一。当我们拥有更多的处理器核,拥有多台物理机器时,我们会希望充分利用并发的优势,提高数据处理的效率。

  DolphinDB database是一个分布式数据分析引擎,它可以将TB级的海量数据存储在多台物理机器上,并能充分利用CPU,对海量数据进行高性能分析计算。在进行同样功能的计算时,DolphinDB在性能上比pandas快1~2个数量级,并且内存占用通常小于pandas的1/2。但DolphinDB的部署和开发方式都和pandas有显著区别,用户若要从pandas迁移到DolphinDB,需要对已有代码做出大量修改。幸运的是,DolphinDB已经着手开发Orca项目——一个基于DolphinDB引擎的pandas DataFrame API的实现。它让用户能够以pandas的编程风格,同时利用DolphinDB的性能优势,对海量数据进行高效分析。相比panddas的全内存计算,Orca支持分布式存储和计算。对于同样的数据量,内存占用一般小于pandas的1/2。

  Orca的架构

  Orca的顶层是pandas API,底层是DolphinDB数据库,通过DolphinDB Python API实现Orca客户端与DolphinDB服务端的通信。Orca的基本工作原理是,在客户端通过Python生成DolphinDB脚本,将脚本通过DolphinDB Python API发送到DolphinDB服务端解析执行。Orca的DataFrame中只存储对应的DolphinDB的表的元数据,真正的存储和计算都是在服务端。

  因此,Orca的接口有部分限制:

  Orca的DataFrame中的每个列不能是混合类型,列名也必须是合法DolphinDB变量名。

  如果DataFrame对应的DolphinDB表是一个分区表,数据存储并非连续,因此就没有RangeIndex的概念,且无法将一整个Series赋值给一个DataFrame的列。

  对于DolphinDB分区表,一部分没有分布式版本实现的函数,例如median,Orca暂不支持。

  DolphinDB的空值机制和pandas不同,pandas用float类型的nan作为空值,而DolphinDB的空值是每个类型的最小值。

  DolphinDB是列式存储的数据库。对于pandas接口中,一些axis=columns参数还没有支持。

  目前无法解析Python函数,因此,例如DataFrame.apply,DataFrame.agg等函数无法接受一个Python函数作为参数。

  关于Orca和pandas的详细差异,以及由此带来的Orca编程注意事项,请参考Orca使用教程。

  安装

  Orca支持Linux和Windows系统,要求Python版本为3.6及以上,pandas版本为0.25.1及以上。

  Orca项目已经集成到DolphinDB Python API中。通过pip工具安装DolphinDB Python API,就可以使用Orca。

  pip install dolphindb复制代码

  Orca是基于DolphinDB Python API开发的,因此,你需要有一个DolphinDB服务器,并通过connect函数连接到这个服务器,然后运行Orca:

  >>>import dolphindb.orca as orca

  >>>orca.connect(MY_HOST,MY_PORT,MY_USERNAME,MY_PASSWORD)

  如果你已经有现成的pandas程序,可以将pandas的import替换为:

  #import pandas as pd

  import dolphindb.orca as pd

  pd.connect(MY_HOST,MY_PORT,MY_USERNAME,MY_PASSWORD)


来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/69934491/viewspace-2757044/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2021-01-18

  • 博文量
    11
  • 访问量
    8477