ITPub博客

首页 > 数据库 > NoSQL > 盘点 2020-我要为文档数据库mongodb在国内推广做点事

盘点 2020-我要为文档数据库mongodb在国内推广做点事

原创 NoSQL 作者:y123456yzzyz 时间:2021-01-17 18:28:59 0 删除 编辑

1.背景

mongodb 是一款功能完善的分布式文档数据库,在高性能、动态扩缩容、高可用、易部署、易使用、海量数据存储等方面拥有天然优势。虽然 mongodb 有很多优势,但是在国内缺存在不少的误解,影响力有待提升。

1.1 mongodb历年数据库得分排名

DB-Engines 是一个对数据库管理系统受欢迎程度进行排名的网站,近年来, MongoDB DB-Engines 数据库流行度排行榜稳居榜单前五。在 DB-Engines 排名可以看出, mongodb 历年得分数据呈现持续增长的趋势,具体如下图所示:

近两年得分如下:

从历年得分排名可以看出,mongodb 总体趋势呈现持续增长态势,稳固了它在数据库系统中的使用优势。

1.2 mongodb roadmap:不仅仅是文档数据库

mongodb-4.2 版本开始已经支持分布式事务功能,当前对外文档版本已经迭代到 version-4.2.11 ,分布式事务功能也进一步增强。此外,从 mongodb-4.4 版本产品规划路线图可以看出, mongodb 官方将会持续投入开发 查询能力和易用性增强 功能,例如union 多表联合查询、索引隐藏等。 mongodb 产品路线图如下:

mongodb-4.2 版本分布式事务功能支持以及 4.4 版本 roadmap 规划图可以看出, mongodb 后续发展会持续朝着 NewSQL 方向前行,预计会为用户提供更全面的数据库服务功能。

1.3 谈谈当前国内对mongodb的误解?-业务接入过程中真实感受

1 章节的 mongodb 排名和 mongodb-4.x 版本产品规划路线图可以看出 mongodb 在全球数据库服务系统有着重要的地位。当前, mongodb 也为我司互联网系统提供了重要的数据库存储服务,支撑着每天近千万级 QPS 峰值读写,数万亿级数据量存储服务。

但是,在真实业务接入过程中,发现业务首次使用mongodb 前,咨询最频繁的几个问题如下 ( 通过和对应业务开发沟通得知,这些误解全来之网上,或者从其他同行听说而来 )

问题一:mongodb 会不会丢数据呀,网上说 mongodb 会丢数据?

答:mongodb 有完善的 rollback 写入策略(WriteConcern) 机制,除非非常极端的情况( 例如主从同一时刻全挂 ) 才可能丢数据,其他情况不会存在该问题。

我司推广mongodb 过程中,我接触的业务中有收到三起反馈 mongodb 丢数据的情况,最后通过我们的流量审计功能,最终都分析出是业务有删数据逻辑引起。

问题二:mongodb 不安全,网上说数据库被黑客攻击要挟?

     答: 这是DBA 的锅,因为被攻击的 mongodb 数据库没有做鉴权认证、没有设置白名单等功能,黑客拿到 IP 即可攻击。而我司线上所有集群都有鉴权账号认证及白名单功能,不存在该问题。

问题三:很多运维Mysql DBA 反应 mongodb 很难维护?

答:针对该问题,接触了公司内部及前东家一些DBA ,有些人确实有这感觉。难维护原因大概主要集中在 mysql 是非分布式数据库,主从结构部署,单个集群节点数有限,确实分析问题更加快速简单。 mongodb 是分布式数据库,部分大数据量大流量集群几十个分片,每个分片几个主从节点,分片与分片之间都是有状态的逻辑关系,所以相比 mysql 确实维护难度会大一点。

但是,从我自身维护mongodb 集群经验 ( 线上数千个实例,最大集群万亿级数据量 ) ,只要掌握了 mongod 分片集群实现原理,个人没感觉运维有多大难度。

 

国内误解根因总结:

1.  mongodb 本身很优秀,但是很多 DBA 或者相应开发把控不住。

2.  国内系统性分析mongodb 内核实现原理的资料较少,遇到问题无从下手。

3.  网络社会以讹传讹,DBA 或者开发自身的问题演变为 mongodb 问题。

 

1.4 针对国内对mongodb的误解我能做些什么?如何做?

mongodb 在我司遇到的问题应该不是个例,预计国内其他公司也会存在类似情况,正如我在 Qcon 演讲中说的那样,只要国内有更多的人加入 mongodb 实现原理研究和更多案例、踩坑等分享, mongodb 国内影响力会越来越高,国内对 mongodb 的误解也会逐渐消失。

后续持续分享《MongoDB 内核源码设计、性能优化、最佳运维实践》系列文章,该系列文章已经陆续在 infoq 、知乎、 github 分享:

itpub 专栏 : mongodb 内核源码设计实现、性能优化、最佳运维实践》

itpub 专栏 : mongodb 内核源码设计实现、性能优化、最佳运维实践》

2. 2020年总结

2020 年即将过去,今年总体上是收获的一年,也是历份工作中最有成就感的一年,为自己加油。

2.1 收获的一年:为自己点赞


2020 在公司人力不足的情况下,凭一己之力把我司不受待见的 mongodb 数据库从内部淘汰边沿变为公司主流数据库。同时,也获得了更多对外分享及外部奖项:

内部mongodb 推广:从淘汰边沿变为公司主流数据库

第一期mongodb 中文社区征文一等奖获得者

    

第二期mongodb 中文社区征文一等奖

MongoDB 网络传输处理源码实现及性能调优 - 体验内核性能极致设计


QCON 全球软件开发大会分享

2020 1 mongodb 年终盛会受邀分享

2021 1 mongodb 年终盛会受邀分享

dbaplus 受邀分享

百万级高并发mongodb 集群性能数十倍提升优化实践

万亿级文档数据库mongodb 集群性能优化实践

2.2 踩坑的一年:时刻反思,转变工作方式

虽然在过去的一年中把我司mongodb 从内部淘汰边沿变为了公司内部主流数据库,但是在这个过程中还是踩了很多坑,坑了自己,也坑了业务,哈哈,在此得给对应业务陪个不是。

踩坑过程主要集中在如下几个方面:

1.  业务客户端不合理配置使用

2.  监控不到位

3.  运维不合理,误操作

4.  内核踩坑

5.  ......

数百个业务接入过程中,出现过多次踩坑,甚至出现同一个核心业务多次抖动,还出现一次核心业务雪崩故障。之前分享了一篇雪崩故障的典型案例,如下所示:

    

该案例是数十个踩坑案例中的一个,后续空余时间整理其余的数十例典型踩坑案例逐步分享到社区。

虽然踩坑引起了一些不愉快,但是可以给其他同学一些借鉴,减少其他同学踩类似的坑。

 

       踩坑不可怕,在踩坑过程中学习,学习过程中减少踩坑

3. 21年规划:继续为mongodb在国内推广及影响力提升做点事

国内真正拥有自研分布式系统的国内互联网公司主要集中在头部巨头( 例如:阿里、腾讯等 ) ,大部分公司任然忍受着 Mysql 分库分表的痛点。实际上随着 mongodb-4.x 分布式事务、联合查询等功能的支撑,很大一部分场景可以考虑采用分布式文档数据库 mongodb 来满足业务需求,做到快速迭代开发。

然而,由于当前国内系统性的mongodb 资料文档欠缺(主要依赖官方文档满足要求)、网上以讹传讹的对 mongodb 的误解,造成了 mongodb 在国内影响力不足。此外, mongodb 源码级实现细节几乎没有一本完整的书籍讲解。 2021 年希望能为文档数据库 mongodb 在国内的推广做点事,在此给自己立个小目标。

3.1 短期目标

短期目标主要是把我司数万亿级数据量mongodb 业务接入过程所遇到的核心踩坑过程、性能优化案例、机房多活案例等分享到社区,避免国内其他 mongodb 用户踩同样的坑,这些核心踩坑点主要如下:

1.  300 条数据操作引发的血案 - 记一次线上 300 条数据变更操作引起某 10 亿级 mongodb 核心集群不可用故障。

2.  主节点持续性OOM- 记一次业务排序操作不合理使用引起的核心 mongodb 集群故障。

3.  千亿级/ 万亿级集群最优索引添加方法 - 记一次数十亿级核心集群后台索引添加引起的集群抖动及快速恢复过程。

4.  链接数耗光如何快速恢复集群- 记一次百亿级核心集群链接数耗光的快速自救过程。

5.  mongodb 机房多活方案 - 实现成本、性能、一致性 " 三丰收 "

6.  mongodb 线程模型瓶颈及其优化方法。

7.  并行迁移- 集群扩容速率 N 倍提升优化实践。

8.  千亿级核心元数据mongodb 集群性能数倍提升优化实践。

9.  万亿级数据量mongodb 集群性能数十倍提升优化实践。

10.  成本节省- 记某服务千亿级数据迁移 mongodb ,百台 SSD 服务器节省优化实践。

11.  如何快速完成数千亿数据从SSD IO 服务器迁移到 SATA 盘低 IO 服务器?

12.  。。。。。。

 

期望完成时间: 2021 4-5

3.2 中期目标

完成Qcon 、知乎、 github itpub 中专栏《 mongodb 内核源码实现、性能调优、最佳运维实践系列 》中核心文章的分享。

没有什么比源码更有说明力,完成github mongodb 内核源码中文注释分析:

 

     期望完成时间: 2021 11

3.3 年度目标

      期望通过对mongodb 核心内核核心技术内幕的分享整理,完成如下书籍的编写整理:

1.  《分布式mongodb 数据库内核设计与实现》

2.  《分布式mongodb 数据库最佳运维实践》

 

    期望完成时间: 2021 12 月底

3.4 公司内部目标

1.   公司自研 mongodb 内核深度优化,最大化解决高并发大流量、大数据量情况下扩容过程的抖动问题。

2.   快速掌握 mongodb-4.2 分布式事务实现原理,开始大力推广分布式事务功能。

3.   持续分享内部推广过程中的集群踩坑、性能优化等案例到社区。

4.   其他

 

     期望完成时间: 全年

 

 

没有什么比源码更有说明力,21 年完成模块化分析 mongodb 源码

 

新的一年,加油


来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/69984922/viewspace-2750617/,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论
滴滴出行专家工程师,OPPO-mongodb负责人,负责近千万级峰值TPS/数万亿级mongodb研发和运维工作,专注于高性能中间件、数据库等研发,持续分享《MongoDB源码设计、性能优化、最佳运维实践》,git账号:https://github.com/y123456yz

注册时间:2020-10-04

  • 博文量
    38
  • 访问量
    106824