ITPub博客

首页 > 大数据 > Hadoop > GreptimeDB v0.3 正式发布|开源分布式能力全面提升

GreptimeDB v0.3 正式发布|开源分布式能力全面提升

原创 Hadoop 作者:asdxzf21 时间:2024-12-02 12:35:38 0 删除 编辑

伴着夏日的声声蝉鸣,GreptimeDB v0.3 如期而至。

在 4 月中旬发布的  v0.2 版本中,我们主要目标集中在 单机, PromQL 兼容, 写入性能优化等。v0.2 的单机版本有了较好的基础,而在 v0.3 版本,我们的关键词则是  “分布式”,也就是所有的能力或是更新均在分布式版本上提供(分布式提供了单机版本不具备的扩展性、高可用性和容错性等),总结来讲,主要是以下几个方面:

  • 分布式性能优化:实现了 Region 级别的高可用性,提供了快速的容灾切换调度。同时也对分布式写入性能进行了优化。
  • 查询能力提升:包括支持分布式查询优化、重要 SQL 查询(如 TopK)的改善以及优化数据压缩策略来加快查询速度。
  • 稳定性增强:为了增加系统的健壮性和可靠性,引入了 Procedure 框架来保障多步操作的最终一致性。同时提供了更细粒度的 Hybrid-flush 策略以提高写入的稳定性,并增加了更多性能指标度量的埋点来提升系统的可观测性,支持如 Tokio console 等工具。

从 0.2 到 0.3,一个半月时间,仅 GreptimeDB 项目就合并了  222 PRs, 涉及到  674 个文件修改,包含了  120+ 个功能优化, 50+ 个修复以及  20+ 重构,这些数字的背后是  27 位社区贡献者的努力。特别感谢社区和团队的努力,接下来,我们重点回顾 v0.3 的核心内容。

GreptimeDB v0.3 重点内容

实现 Region 级别的高可用

在分布式系统中,为了保障高可用,需要做到 region 级别的容灾, GreptimeDB 在 v0.3 版本中支持了这一特性,是最终达到分布式高可用的重要里程碑.由于涉及到 Frontend, Meta 和 Datanode 等不同组件的改造,影响面较广,我们通过  Issue#1126 来跟踪整个实现过程,如果你对此感兴趣,欢迎关注,当然,一切是从  RFC: Region Fault Tolerance 开始:

重要的 SQL 查询场景优化

基于过去的业务经验,在 GreptimeDB v0.3 开发中重点优化了最常用的查询场景,比如 TopK 等,主要还是利用了剪枝的思维,我们也将整个工作分成了多个子任务,并通过  Issue#1286 跟踪。

分布式查询优化,支持常用算子下推

为了数据库的分析能力,很早就有人提出 Near-Data Processing 的方式,也就是给予存储层一定的算力,让一些简单的计算在数据中心完成之后再返回,这样可以避免大量原始数据的传输,而算子下推(operator push-down) 是最常见的实现方式,GreptimeDB v0.3 支持了 PromQL 大部分算子和谓词的下推,优化分布式查询。这么重要的功能,我们也事先通过  RFC: Distributed Planner 讨论实现方案,具体实现可参见  PR#1660. (Greptime 开发日常:这个 PR 超过了 1000 行代码的修改,在我们内部是极不推荐的,但因为 author 会发红包,大家也就勉强原谅了 ta,甚至还有点期待)

引入了 Procedure 框架,保障多步操作的最终一致性

为了增加系统的健壮性和可靠性,受  Apache HBase’s ProcedureV2 framework 启发,GreptimeDB 也用 Rust 写了一个 Procedure 框架来保障多步操作的最终一致性,这又是一个从  RFC: Procedure Framework 开始的故事,而且有一个超级庞大的  Issue#286 在跟踪,v0.3 并不是他的终点,故事还将继续。(对了,如果你觉得 RFC 太枯燥,也可以参考  九转大肠 来理解到底什么是 Procedure)

增加更多的性能指标提升系统的可观测性

作为可观测体系下的可靠存储方案,GreptimeDB 自身的可观测性也必须做好,在 v0.3 在版本中,增加了更多的 metric 指标用来检测系统的运行情况,这部分内容遍及到每个组件中,可以参看  PR list。

其他细节的优化:

  • 支持查询外部数据,导入导出 CSV/JSON/Parquet 格式文件
  • 支持  TQL EXPLAIN/  TQL ANALYZE 从句,分析 PromQL 查询性能
  • 提高了 PromQL 兼容性
  • 在集群模式下支持启用 Tokio 控制台
  • 等等

整体上,v0.3 会是一个初步可以试用的分布式版本,它具备了 region 粒度的服务高可用(数据高可靠还待后续版本完成),重点场景的分布式查询(重点是 PromQL 查询方向)和写入性能均达到或者略微超过主流同类数据库性能的水位线。

升级注意事项

如果您是从 0.2 升级而来,需要特别注意以下几点:

  • 使用本地存储,需要修改配置  data_dir ,该选项已经废弃,假设您原来设置  data_dir = "/greptimedb/data",那么需要修改为  data_home = "/greptimedb",  data_home 替代指定数据根目录。
  • 建议升级之前使用  COPY 命令备份数据

GreptimeDB v0.4 计划

从 0.3 开始便将研发重点聚焦到分布式,并制定了中长期计划,按月迭代,0.4 的主题就是性能和完善现有功能,将聚焦在以下几个功能:

  • 分布式 DDL 语句的支持像 Create Table, Drop Table 等接入 Procedure 框架确保分布式多步操作的正确执行
  • 异步的压缩和索引,提升查询性能
  • 在 0.3 版本我们支持了 PromQL 大部分算子和谓词的下推,0.4 版本将聚焦到 SQL 中的常见算子的下推以提升 SQL 查询性能
  • 重点优化表引擎和存储引擎,提升读写性能,降低资源消耗

致谢社区

感谢亲爱的社区和所有贡献者们,是你们的每一个建议、BUG 修复和代码贡献,才让这个项目不断壮大、迈向新高峰。

" class="reference-link">

关于 Greptime

Greptime 格睿科技于 2022 年创立,目前正在完善和打造时序数据库GreptimeDB 和格睿云 GreptimeCloud 这两款产品。

GreptimeDB 是一款用 Rust 语言编写的时序数据库,具有分布式、开源、云原生、兼容性强等特点,帮助企业实时读写、处理和分析时序数据的同时,降低长期存储的成本。

GreptimeCloud 基于开源的 GreptimeDB,为用户提供全托管的 DBaaS,以及与可观测性、物联网等领域结合的应用产品。利用云提供软件和服务,可以达到快速的自助开通和交付,标准化的运维支持,和更好的资源弹性。


来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70042642/viewspace-3053957/ ,如需转载,请注明出处,否则将追究法律责任。

上一篇: 没有了~
下一篇: 没有了~
请登录后发表评论 登录
全部评论

注册时间:2024-12-02

  • 博文量
    1
  • 访问量
    1248