使用QianBase MT+QianBase MPP快速构建实时数仓解决方案
随着企业的不断发展,IT系统积累的业务数据与日俱增,企业通过数据分析手段辅助管理决策、驱动业务增长的需求愈发强烈。然而各业务系统的数据只存在于对应的数据库或是直接存放于本地磁盘文件中,形成了一个个信息孤岛,导致管理者无法快速获知企业的经营全貌,同时,海量数据的压力与人工处理效率低下、指标口径不一致等因素,严重影响了管理者的判断时机与决策准确性。因此,数据仓库成为企业走出数据分析困境的解决方案。构建
通过OM实现QianBase xTP的集群诊断
集群诊断是指对一个分布式系统的各个节点进行监控、分析和诊断,以检测和解决集群中可能存在的问题和故障。一个分布式系统通常由多个节点组成,每个节点都承担着不同的任务和功能,通过集群诊断可以获取当前集群的操作系统、数据库及OM等诊断信息。登录OM,点击诊断>集群诊断进入该页面1、集群诊断主页在集群诊断主页通过点击字段所带的排序图标可以对状态列表进行升序或降序排序,点击查询按钮可以搜索,点击刷新按钮
分布式OLTP数据库发展趋势:跨中心容灾
容灾系统是核心业务必不可少的可用性保障措施,然而每年全球依然有众多大型机构因为数据中心级别故障导致核心业务终止,造成数百亿的经济损失。血淋淋的教训比比皆是,但数据中心级别事故依然“乐此不彼”,其中关键因素之一就是传统的容灾方案架构设计复杂、实施困难、可靠性低,往往投入大量资金,却换不来关键时刻的有效安全保障。容灾系统是为了应对火灾、地震等极端地域性灾难事件而设计的跨数据中心安全保障手段。RPO和R
QianBase TP定时任务的实现
1、应用场景某客户应用场景下,应用有16种数据类型(数据类型为应用概览,如票务数据类型、对账数据类型等,共对应16张表),每天增量为1050万行记录(1.73GB),为避免长时间数据积累导致性能衰减、存储增长问题,设计数据库只保留1095天的数据;同时为了保证历史数据可追述,被删除的数据(1095天前)需要做归档保留,必要时候可恢复归档数据用于分析;归档和删除操作建议在业务空闲时定时自动执行。注:
分布式OLTP数据库发展趋势(五):内部自治实现数据透明
一、传统分布式对数据模型侵入性较高,增加了开发运维的成本和风险分布式数据库大多需要人工指定数据切分的规则,管理数据分片的存储位置。例如,基于Mysql的分布式数据库,用户在建表时需要人工指定合适的列作为“分库键”;既要做到存储均匀分布,又需要做到热点分片均匀分散,而这对于复杂的业务系统而言,仅靠人工操作几乎是不可能完成的。图 :人工修改表分片的存储位置-消除分布式架构数据热点二、原生分布式提升了系
快速理解QianBase xTP分布式存储管理引擎
QianBase xTP的分布式存储管理引擎(DSE Distributed Storage Engine)是一种用于管理和存储大规模数据的系统。它提供了一系列用于存储、管理和处理数据的功能。一、分布式存储工作机制QianBase xTP的分布式存储管理引擎可以将数据分布在多个节点上,以提高可扩展性和容错性。其写入数据过程可分为以下几步:客户端连接应用程序使用 QianBase xTP 提供的驱动
易鲸捷数据库QianBase xTP的副本分布规则
易鲸捷QianBase xTP(简称xTP)是一款原生分布式数据库产品,其对象存储在逻辑层面由一个或者多个range组成,表的高可用性由range副本分布来保证,本文主要介绍xTP range副本的分布与启动参数Location的关系。
QianBase TP的DBMS_SQL插件让兼容国外数据库变得更简单
1、文章组织结构及安排本文主要从以下五个方面进行介绍:第一章:设计文章的组织架构及安排。第二章:论述研发DBMS_SQL插件的背景及意义。第三章:描述DBMS_SQL插件的作用以及使用方式。第四章:QianBase TP兼容DBMS_SQL插件的支持情况。第五章:对DBMS_SQL插件做一个总结以及后续的一些展望。2. 研发背景因国际环境的变化,国产化进程进一步加快,金融行业掀起了国产化替代的浪潮
唯品会机房宕机故障,再再再次为核心业务容灾敲响警钟
一、容灾无小事,松懈必致命6月5日,唯品会(VIPS.N)发布关于329机房宕机故障处理公告。称故障导致公司业绩损失超亿元,影响客户达800多万,基础平台部负责人予以免职处理。据媒体信息,此次故影响的不仅唯品会一家,微信、QQ等腾讯旗下社交软件出现功能异常;腾讯将此定义为公司一级事故,对大量相关领导做出了处罚,被予以通报批评。此外,故障影响还包括广东省政务云平台,致众多医疗机构网络服务中断。此次故
分布式OLTP数据库发展趋势(四):系统高可用
高可用是系统架构设计中必须考虑的因素之一,主要设计目标是减少系统不能提供服务的时间,一般我们使用“可用性”来反映一个系统的高可用能力。可用性是一个百分比数值,计算公式为程序正常运行时间/(程序正常运行时间+系统故障时间)。通常我们习惯用N个9来表示系统的可用性,如4个9,也就是99.99%,代表这个系统每年停机时间为52.6分钟。冗余和故障转移是高可用实现的两种模式,大多数高可用方案中都结合两者一
QianBase xTP的备份和还原
备份原理QianBase xTP的备份以作业的方式操作,作业是可能跨越多个SQL会话的长期运行操作,BACKUP语句在作业工作流中执行。备份任务有四个主要阶段:第一阶段:创建作业验证BACKUP语句的参数,然后将它们写入系统作业表中(system.jobs),包括备份的详细信息,备份的选项,用户权限,存储的路径以及数据的键值等等。如果请求了分离备份,BACKUP语句就完成了,并返回作业ID。如果没
QianBase xTP 两地三中心部署及故障切换
QianBase xTP支持单中心以及多种跨数据中心多活部署方案,支持异地多活、两地三中心、三地五中心等容灾部署。QianBase xTP基于全新的分布式架构和整体的Raft一致性协议基础上,将整体集群和区域集群相结合,无需额外的同步服务组件即可实现跨数据中心复制。两地三中心部署本文主要介绍使用om进行两地三中心部署,主要流程如下:1、安装前环境检查在进行数据库安装之前,我们需要确认安装的环境是否
QianBase TP如何进行物理备份
1qbbackrest介绍QianBase TP使用qbbackrest进行物理备份恢复,支持全量,增量和差异备份。2配置qbbackrest1)拷贝文件到/usr/local/bin目录cp /usr/local/QianBaseTP/bin/qbbackrest /usr/local/bin2)编辑文件/etc/qbbackrest.conf 没有则创建[global]  
如何让Designer更好地操作数据库对象
Designer是一款基于Java开发的数据库管理、开发和维护工具。支持 QianBase xTP, QianBase TP和 QianBase MPP数据库,可在各种操作系统上运行,包括:Windows、Linux、macOS 等。Designer可提供一个图形用户界面(GUI)用来查看数据库结构、执行SQL查询和脚本,浏览和导出数据,修改数据库结构等。下面将以QianBase TP数据库中的表
分布式OLTP数据库发展趋势(三):在线模式变更(DDL)
数据库中的数据模式在系统运行的过程中并不总是一成不变的。一方面,随着业务的发展,通常需要增加新表或增加字段来满足新的业务需求;另一方面,随着数据量的不断增长,也可能需要添加新的索引来提升数据获取的效率。实际上,在线系统中可能会遇到更多场景的模式变更需求,如扩展字段长度、修改字段类型、添加索引条目等。对于重要的应用系统而言,无论是哪一种模式变更,我们都希望不影响系统当前的正常运行,对业务
详解数据库存储的数据结构LSM Tree
LSM-Tree全称是Log Structured Merge Tree,是一种分层,有序,面向磁盘的数据结构。LSM树的定义LSM树是一个横跨内存和磁盘的,包含多颗"子树"的一个森林。LSM树分为Level 0,Level 1,Level 2 ... Level n 多颗子树,其中只有Level 0在内存中,其余Level 1-n在磁盘中。内存中的Level 0子树一般采用排
QianBase MPP数据库中的索引问题
为了提高数据库中SQL的执行效率,我们最常用到的手段之一就是创建合适的索引。但是在生产环境中,经常会遇到索引失效的问题,索引失效也是一个老生常谈的话题,下面我们梳理一下QianBase MPP中的索引失效,从而避免索引失效引起的SQL执行效率问题。按照大的分类,索引失效可以分为两类:1.建立的索引无法使用;2.优化器不选择走索引。1 索引无法使用索引无法使用的情况主要包括:索引类型不匹配、coll
分布式OLTP数据库发展趋势(二):一致性备份恢复
对于数据库管理系统而言,保障数据的安全性是至关重要的,任何数据的丢失都可能产生严重的后果。而在使用数据库的过程中,总有一些意外因素会影响数据安全,如人员误操作、恶意攻击、极端的多设备故障等。备份恢复技术就成了保障数据安全的最后一道防线,分布式数据库为了保证多节点备份一致性,往往需要配置复杂的依赖关系和操作过程,而这样的过程本身也会对数据安全产生影响。数据库中的备份包括逻辑备份和物理备份两种形式。逻
通过OM部署QianBase xTP两地三中心模式
OM全称为Operational Management,是为QianBase数据库开发的一套监控运维管理平台的简称,OM采用容器化部署架构,底层使用的是Kubernetes容器平台,本文主要介绍通过OM实现QianBase xTP两地三中心模式的安装。
QianBase TP的Package插件:如何更好的兼容Oracle数据库
QianBase TP是一个轻量级快速部署、方便易用的集中式数据库,对Oracle语法具有极大的兼容能力,兼容Oracle数据类型、触发器、存储过程,提供异构数据库一键迁移工具,方便快速替换传统数据库。那么QianBase TP是如何做到更好地兼容Oracle数据类?