干货丨时序数据库DolphinDB横截面引擎教程
在处理实时流数据时,不仅需要按照时间做纵向聚合计算(时间序列聚合引擎),还需要对最新的数据做横向比较和计算,如金融里对所有股票的最新报价求百分位、工业物联网中计算一批设备的温度均值等。DolphinDBdatabase提供了横截面聚合引擎,可以对流数据中所有分组的最新数据做聚合运算。横截面引擎的主体
DolphinDB丨金融因子流批一体计算神器
前言量化金融的研究和实盘中,越来越多的机构需要根据高频的行情数据(L1/L2以及逐笔委托数据)来计算量价因子。这些因子通常是有状态的:不仅与当前的多个指标有关,而且与多个指标的历史状态相关。以国内的股票市场为例,每3秒收到一个快照,每个股票每天得到4800个快照,计算因子时可能会用到之前若干个快照的
随机森林算法实现的性能对比测试:scikit-learn、Spark MLlib、DolphinDB
随机森林是常用的机器学习算法,既可以用于分类问题,也可用于回归问题。本文对scikit-learn、SparkMLlib、DolphinDB、xgboost四个平台的随机森林算法实现进行对比测试。评价指标包括内存占用、运行速度和分类准确性。本次测试使用模拟生成的数据作为输入进行二分类训练,并用生成的
干货丨DolphinDB元编程教程
元编程是指使用程序代码来生成可以动态运行的程序代码。元编程的目的一般是延迟执行代码或动态创建代码。1.DolphinDB实现元编程的方法DolphinDB支持使用元编程来动态创建表达式,包括函数调用的表达式、SQL查询表达式等。DolphinDB有两种实现元编程的方法:(1)使用一对尖括号<&
干货丨如何使用时序数据库DolphinDB处理Tushare金融数据
DolphinDB是新一代的时序数据库,不仅可以作为分布式数据仓库或者内存数据库来使用,而且自带丰富的计算工具,可以作为研究工具或研究平台来使用,适用于量化金融、物联网等领域的海量数据分析。量化金融领域的不少问题,如交易信号研究、策略回测、交易成本分析、股票相关性研究、市场风险控制等,都可以用Dol
5G+工业互联网丨DolphinDB携手诺基亚贝尔打造高精度实时计算平台
近日,由智臾科技(DolphinDB)承担、诺基亚贝尔参与,双方共同申报的「基于5GPre-TSN网络的高精度时间同步实时计算平台」项目,成功入围浙江省“尖兵”、“领雁”研发攻关计划项目,时序数据库技术将尝试用于解决"5G+工业互联网"中低成本终端缺少高精度时间支持的难题。项目简介在工业互联网和工业
视频演示|如何通过 DolphinDB 实现复杂因子的高效计算
在时序数据的处理中经常需要使用窗口计算。在DolphinDB中,窗口计算不仅可以应用于全量的历史数据计算,还能应用于增量的流计算。窗口函数既可应用于SQL(处理表中的列),也可应用于面板数据(处理矩阵中的列)。与其它系统相比,除了拥有显著的性能优势,DolphinDB的窗口计算在使用上也更加灵活——
干货丨基于Docker的DolphinDB集群部署教程
Docker是一个开源的引擎,可以轻松地为任何应用创建一个轻量级的、可移植的、自给自足的容器。DolphinDBdatabase提供了基于docker的分布式集群部署包,可以让用户方便快捷的部署DolphinDB分布式集群。本教程的目标是通过4个centos容器搭建一个5节点的多机集群,最终搭建好的
干货丨时序数据库DolphinDB历史数据回放教程
一个量化策略在用于实际交易时,处理实时数据的程序通常为事件驱动。而研发量化策略时,需要使用历史数据进行回测,这时的程序通常不是事件驱动。因此同一个策略需要编写两套代码,不仅耗时而且容易出错。在DolphinDBdatabase中,用户可将历史数据按照时间顺序以“实时数据”的方式导入流数据表中,这样就
量化干货丨如何使用DolphinDB计算K线
DolphinDB提供了功能强大的内存计算引擎,内置时间序列函数,分布式计算以及流数据处理引擎,在众多场景下均可高效的计算K线。本教程将介绍DolphinDB如何通过批量处理和流式处理计算K线。历史数据批量计算K线其中可以指定K线窗口的起始时间;一天中可以存在多个交易时段,包括隔夜时段;K线窗口可重
如何使用VS2017编译DolphinDB C++ API动态库
MicrosoftVisualStudio是微软推出的一款功能强大的开发工具包,为各种平台和语言的软件开发提供了基本完整的工具集。本篇中我们将以VS2017Release/x64平台为例,向大家简要概述如何在DolphinDB搭建C++API开发环境,并编译相应动态库。本文示例的DolphinDBC
干货丨时序数据库DolphinDB与Spark的性能对比测试报告
1.概述Spark是基于内存计算的通用大数据并行计算框架,内置多种组件,如批处理、流处理、机器学习和图处理。Hive是基于Hadoop的数据仓库,支持类SQL的命令查询,提升了Hadoop的易用性。Spark与Hive、Hadoop通常是搭配使用,利用Hive中的数据分区可以方便地管理和过滤数据,提
干货丨DolphinDB即时编译(JIT)详解
DolphinDB是高性能分布式时序数据库,内置了丰富的计算功能和强大多范式编程语言。为了能够提高DolphinDB脚本的执行效率,从1.01版本开始,DolphinDB支持即时编译(JIT)。1JIT简介即时编译(英文:Just-in-timecompilation,缩写:JIT),又译及时编译或
【2022/5/23】ITPUB新闻早报
今日热点:1、公安机关开展专项行动,清理整治动态IP代理服务乱象5月19日消息,据公安部网安局消息,针对动态IP代理服务乱象,公安部部署“净网”专项行动,组织全国公安机关开展动态IP代理服务集中整治,取得了丰硕成果,有力净化了网络环境。2、世卫组织预测全球将出现更多猴痘病例世界卫生组织数据显示,截至
手把手教你如何使用DolphinDB进行机器学习
DolphinDB实现了一系列常用的机器学习算法,例如最小二乘回归、随机森林、K-平均等,使用户能够方便地完成回归、分类、聚类等任务。这篇教程会通过具体的例子,介绍用DolphinDB脚本语言进行机器学习的流程。本文的所有例子都基于DolphinDB1.10.9。1.第一个例子:对小样本数据进行分类
干货丨如何使用Redash连接DolphinDB数据源
Redash是一款开源的BI工具,提供了基于Web的数据库查询和可视化功能。DolphinDB支持通过https协议的POST和GET接口获取数据,可以使用Redash中的JSON和URL两种数据源来连接DolphinDBdatabase。1.使用JSON数据源连接DolphinDBRedash目前
干货丨DolphinDB NumPy使用教程
NumPy是一个用于科学计算的基础库,常和pandas配合使用,实现复杂计算。Orca的底层实现基于DolphinDB,如果用NumPy函数直接处理Orca对象,会直接将Orca对象下载到本地计算,造成不必要的性能损失,甚至可能导致异常。为此,Orca提供了一个附属项目,DolphinDBNumPy
干货丨如何使用DolphinDB回放加密货币盘口与逐笔交易数据
对加密货币盘口与逐笔交易数据的回放展示,可帮助量化研究人员检验量化策略,也有助于交易员复盘,加深对市场的洞察。DolphinDB可实现盘口和逐笔交易数据的高速回放,以及对回放结果逐点查询。DolphinDBdatabase支持将多个分布式表同步回放并发布到流数据表,例如对盘口和交易这两个表进行同步回
干货丨DolphinDB与Elasticserach在金融数据集上的性能对比测试
Elasticsearch是一款非常流行的日志检索和分析工具,尤其在实时性、扩展性、易用性和全文检索方面有着非常优异的综合表现。知乎上有一篇文章,Golion:降维打击!使用ElasticSearch作为时序数据库,并且取得了非常不错的效果。很多知乎用户不禁询问,Elasticsearch是否可以用
干货丨前端chart组件展示DolphinDB数据教程
数据图表前端组件在物联网和实时监控的场景有广泛的应用,当前比较流行的有Echarts、HighCharts等组件。本文主要讲解如何通过DolphinDB的Web数据接口和JavaScript来展示DolphinDBtime-seriesdatabase的数据。DolphinDB提供了基于HTTPS协