往期回顾
----------------------
七座城堡①OLTP(上)
七座城堡①OLTP(下)
----------------------
七座城堡② OLAP(上)
七座城堡② OLAP(下)
----------------------
七座城堡③HTAP(上)
七座城堡③HTAP(下)
----------------------
七座城堡④ 时序(上)
七座城堡④ 时序(下)
----------------------
七座城堡⑤ 图(上)
七座城堡⑤ 图(下)
----------------------
七座城堡⑥ GIS(上)
七座城堡⑥ GIS(下)
----------------------
七座城堡⑦机器学习(上)
七座城堡⑦机器学习(下)
----------------------
七座城堡⑧ 困境与应对(上)
----------------------
老王:老柯,我们面临的问题不少啊,还真有些烦人…上次你不在场,缺了你这个主心骨不行啊。你好好的理一下,咱们明天和主管们再开一次会。

老柯:好的,我详细展开说说。
先说说老钱提的城堡的成本问题,我认为主要还是数据库城堡建太多了,要是只有一个城堡,成本必然大幅下降。只是多城堡的设计在时代发展的特定阶段,往往成为当时不得已而为之的选择,解决问题的同时也会伴随着弊端。比如这个成本问题。您看有些数据适合点查,于是存在OLTP城堡,但是有时这些数据也要分析啊,就同步到OLAP城堡中转位列存去分析,这样一份数据就在两个数据库城堡中出现了,像这样的情况可不止出现在这座数据库城堡中哦,您看时序的场景往往需要分析,而现有的基于KV模式的结构对SQL的支持极弱,就往往需要同步到关系型数据库城堡中去做分析展示,如此一来势必造成数据冗余,导致存储空间上更多的开销;而不同数据库城堡的数据交换需要数据同步的软硬件投入及网络带宽,又是不小的开销;再有就是不管是什么类型的数据库城堡,底层内核运行机制是相似的,而当下的模式就失去了通用模块共同的机会,等于重复发明了很多轮子,无疑又是一种开销。当然了,不同类型的数据存储在不同的数据库城堡中,这种数据孤岛的形成的成本开销其实还远不止这些,我们这里就不展开了。最后是人力成本问题,如果数据库城堡能进行集约合并,那相关工作人员肯定也会减少,人力成本也就降下来了。
老王:嗯,管钱的老钱很抠门的。还有管人的老任,他整天就抱怨说队伍不好带。
老柯:其实老任提的人才缺乏的问题也是成本问题,属于学习成本太高。由于各个城堡是有密切关联的,所以相关技术人员往往需要掌握各个城堡的技能,复杂的技术栈无疑加高了学习门槛,对人员提出了很高的要求,所以才出现人才缺乏及对应的人手不足导致的工作强度过大等系列问题。如之前所说,如果数据库城堡进行一定的集约合并,是可以有效解决问题的,当然了,我们也需要加大技术培训的力度。
接着我们说管安全的老全,他提出的统一的开发运维监控平台我觉得非常有必要,我们姑且统称为管理平台。目前只是在各自独立的城堡有自己的管理平台,确实这样会缺少整体性。我们正在考虑把各城堡的管理平台整合一起,建一个统一的管理平台。
老王:嗯,你好好梳理一下。对了,管工程的老龚提到了时序数据库的关键痛点,你怎么看?
老柯:老龚提的问题正是我最近一直在思考的问题,现有时序数据库是基于NOSQL数据库类型,扩展性好但是支持SQL及事务处理能力方面都比较弱,目前我们正在规划往关系型分布式数据库方向去改造,这样就能解决复杂查询支持较差的问题。关于写入性能本身就是一个非常大的挑战,首先是并行能力可以进一步优化,比如并行写入之前是需要做数据调度的,我们争取能进一步提升数据并行写入前的数据调度效率。除了确保写入并行化,让写操作本身更快也是非常重要的,我们正在存储层面做进优化,已经取得了技术上的突破了。此外关于时序和GIS数据融合,我认为可以通过都转化为分布式关系型数据库的方式进行融合,这个需要一些时间。
老卫提到的数据孤岛问题主要是因为数据来源于多处,当前我们正在开展数据抽取同步技术的性能提升工作,预计将来卫生主管在数据抽取合并上的工作效率能有数倍的提升,不过如果能对数据库城堡能有一定的集约合并,孤岛就没那么多,问题还可以得到更近于进一步的缓解。
老柯:老焦提的无人物流和无人驾驶计划,我个人是非常支持这事,其实这就是解决交通问题的一个非常有效的手段。因为无人物流和无人驾驶必定是在序的设定往返于目标地,一定是标准流程和标准作业,这种有序性必然会大幅提升运输效率的,进一步改善交通厅问题。正如交通主管所言,库外的机器学习城堡在处理实效性要求特别高的场景还有不足,这个问题前面讨论过了,如果数据库的外部机器学习方式转成数据库的内部机器学习方式,就能大幅提升机器学习处理数据的效率,从而解决问题,不过如果数据库城堡过多,每一个城堡内分别内嵌机器学习模块,似乎还存在孤岛数据处理的弊端。
老柯:除非这七座城堡是一座城堡,一座融合了这七座城堡能力于一身的超融合数据库城堡。
老柯:目前两个关键技术若能突破,我们就能打造出这个超级城堡。关系型数据库有着严谨的ACID,成熟的优化器与复杂的表关联分析能力,这些让NOSQL非关系型数据库望尘莫及。而NOSQL卓越的分布式扩展和分布式计算能力也让关系型数据库羡慕不已,很多事在集中式数据库中很简单,一旦在分布式数据库中,难度就骤增,比如分布式事务。这种关系型数据库分布式技术就是我们需要突破的第一个关键技术。
此外,当前优化器难无法同时处理不同的存储引擎,导致了同为关系型还数据库还要因为存储引擎的差异独立开来,以OLTP城堡和OLAP城堡为例,如何将两种存储模式融为一体又不互相影响,让我很是头疼。这就是第二个关键之处,多存储引擎的融合技术。我坚信随着这两个关键技术的突破,超融合数据库城堡就一定够建成。超融合数据库城堡建成之日,就是成本、管理、性能等一系列问题的解决之时。我总结了各主管提的问题和对应的解决思路如下,供您参考。
老柯一番话给老王带来信心,对未来充满了希望,就在准备告别之时,老王忽然想到有缘人给的那本满是蝌蚪文的书,于是让老柯随他一同看看此书,结果老柯也看的一头雾水,最终决定将书带回家中仔细研究。

未完待续...
七座城堡⑨ 混元归一【上】(第一部大结局)
公众号:收获不止数据库
微信:ljbyxl1213
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/9091385/viewspace-3082590/
,如需转载,请注明出处,否则将追究法律责任。