不用ES也能海量数据复杂查询秒回
面对海量数据复杂查询场景,目前的主流选择是HBase搭配ElasticSearch或者直接用ElasitcSearch实现,本文提出一个新的解决方案,基于HBase实现更加轻量,无需增加硬件投入,我们将这个核心组件命名为Pharos(灯塔)。自研背景可插拔的HBase索引组件NoSQL兴起无疑是大数
架构转型,分布式数据库和业务中台更配呦
本文尝试探讨分布式数据库的适用场景,以及对企业架构转型的意义。分布式数据库会助力架构转型吗?主流分布式数据库的目标都是提供与单体数据库相同的功能、更强大的性能,同时屏蔽内部分布式架构的复杂性,让应用系统实现数据库的无感切换。很多将分库分表方案称为分布式数据库的同学可能会持不同意见,好吧,我们这里只说
设计数据中台分几步?
写在前面本文旨在探讨通用的数据中台架构设计方法,产出物为数据中台的逻辑架构。当然,考虑到业界对于数据中台的定义千差万别,可以预见大家不一定认同本文设想的中台架构,但我觉得每个步骤中的推演过程或许会大家给带来一点启发,还是最终成文,大家权当是疫情期间做了一次脑力体操吧。第一步明确中台边界首先,我们面对
Aurora是全球化数据库吗?
本文从可用性、性能、数据一致性三个角度对Aurora是否可以称为“全球化”数据库进行了分析。文章作者来自CockroachLabs,与Aurora存在商业竞争关系,客观性受到潜在影响,但整体上仍有阅读价值。原文链接:https://www.cockroachlabs.com/blog/just-ho
Flink Forward Aisa 2019见闻
11月28日至29日,FlinkForwardAisa2019在北京国际会议中心举办,本次大会开设了企业实践专场、Apache核心技术专场、开源大数据生态、实时数仓、人工智能,五大专场。虽然今年改用售票方式,但会场依然爆满,充分体现了目前行业内对实时计算的重视。因为Blink上的巨大投入,阿里云已经
从架构特点到功能缺陷,重新认识分析型分布式数据库
本文于2018年首发在DBAPlus社区随着大规模互联网应用的广泛出现,分布式数据库成为近两年的一个热门话题。同样,在银行业主推X86限制主机与小型机的背景下,传统的单机数据库逐渐出现了一些瓶颈,马上会面临是否引入分布式数据库的问题。近期,我在个人公众号就“银行引入分布式数据库的必要性”做过一些展望
2019中国系统架构师大会掠影
10月31至11月2日,2019中国系统架构师(SACC)大会在北京永泰福朋喜来登酒店成功举办。大会共1个主会场,21个技术专场,100+来自互联网、金融、制造业、电商等领域嘉宾。Ivan与史海峰、沈剑和余珂三位老师共同录制了一个暖场短片,镜头感尚待提升,老铁们多支持。能挺过视频就是好样的(捂脸),
银行业“数据中台”的再思考
今天,中台已经成为架构转型的里程碑,从互联网到传统企业谈架构必有中台。虽然各种中台概念层出不穷,但“数据中台”和“业务中台”作为中台概念的起始源头,被视为最纯正的中台,也是企业架构转型的重要目标。我所在的银行正筹备“数据中台”的建设,为此在内外部组织了多次技术研讨,每个人都有不同的想法,共同点仅限于
从希腊神话到图数据库建模
图数据库是用来组织高度关联数据的一种数据存储系统,相对传统的关系型数据库,它有着查询、分析更加高效的优势,在社交网络、公安、交通、金融等领域都有良好的应用前景。本文从数据模型入手,介绍图数据库的逻辑模型和基本概念,希望能够帮助感兴趣的同学,叩开图数据库世界的大门。为了增加文章的趣味性,选用了Janu
报表与火锅的故事
上篇文章也谈到BI报表查询,但更多在讲技术人员的价值观,有标题党的嫌疑。本文回归技术分析,题目有点小写意,套用一个火锅店的小故事,重点是MPP与分布式数据库存储上的一个差异点,希望能达到通俗易懂的效果。数据时代,信息化成熟的企业通常建设了很多BI报表系统,每天各级管理人员根据报表的数据调整企业整体的
YCSB测试HBase远程完全分布式集群
写在前面本文只讲一个很简单的问题,YCSB对HBase集群的测试。虽然网上有很多介绍YCSB测试HBase的文章,但都是针对本地HBase伪分布式集群的。大家都知道,稍微正式一些的压测都会要求测试客户端与目标集群分离部署,而且伪分布式集群通常不会在生产环境下使用,本身也没有太大的压测意义。本文会着重
NoSQL性能测试工具(YCSB)
写在前面目前,在系统设计中引入了越来越多的NoSQL产品,例如Redis/MongoDB/HBase等,其中性能指标往往会成为权衡不同NoSQL产品的关键因素。对这些产品在性能表现和产品选择上的争论,Ivan碰到不止一次。虽然通过对系统架构原理方面的分析可以大致判断出其在不同读写场景下的表现,但一是
真正的事务是可串行化的
写在前面本文是一篇CockroachDB官方博客的译文,主要阐述数据库实现串行化隔离的必要性。关于事务隔离性,Ivan曾经在“分布式数据库之事务隔离性”中从理论方面进行过系统的介绍,本文则是从数据库厂商的角度来阐述对隔离性的理解,大家可以将两篇文章结合起来阅读会对隔离性有更加全面客观的理解。Cock
银行需要分布式数据库吗?
技术优秀的你,未来一两年很可能会被老板问到这个问题“我们要不要上分布式数据库”,你有答案了吗?Ivan试着来帮你分析一下。我们都知道数据库是IT系统的基石,高性能高可靠的服务是它默认的前提。银行目前的数据库方案被多年实践过的方案,理论上当然是没问题的,但是未来会怎样呢?高性能业务场景的变化带来业务量
分布式数据库之事务隔离性
写在前面近两年分布式数据库技术加速发展,而由于金融行业技术生态的限制,周围很多同学对其并没有深入的了解,所以进行高性能、高可靠系统设计时往往缺少这一利器。Ivan希望以系列文章的方式与大家交流探讨,加深我们对分布式数据库的认识。本文是该系列文章的第一篇,主要探讨事务管理中的隔离性,厘清相关概念和关键
设计数据中台分几步?
本文旨在探讨通用的数据中台架构设计方法,希望思考过程能给大家带来一点启发。