Impala的use_local_tz_for_unix_timestamp_conversions
使用过Impala的同学都知道,impala默认对于timestamp都是当成UTC来处理的,并不会做任何的时区转换。这也就是说,当你写入一个timestamp的数据时,impala就会把它当成是UTC的时间存起来,而不是本地时间。但是Impala同时又提供了use_local_tz_for_uni
OLAP数仓入门问答-基础篇
前言过去近七年在网易杭研一直从事数据库相关的开发工作,主要是MySQL和MongoDB这两种数据库,去年开始涉及图数据库Neo4J。上述几种,都可认为是OLTP类数据处理,由于工作需要,需要调研学习OLAP技术和相关系统,本文开始逐步进行第一轮总结,很多东西还只是片面理解,权当做个笔记。对事物的认识
OLAP入门问答-进阶篇
续言前一篇文章从OLTP出发,通过对比引出OLAP,进一步介绍了数仓的基本概念,包括多维数据模型、数据立方体及其典型操作等。本篇再进一步,将介绍OLAP的类型及其代表产品,并分析主流开源OLAP产品的核心技术点。未看过前一篇文章的读者,欢迎点击链接(温正湖:OLAP数仓入门问答-基础篇)做进一步了解
浅述目标拆解的原则和方法
不得不说的废话老实说,本文是为了应付公司内部培训的作业的。汇总了下学到或用过的一些能够提高工作效率的方法,本来觉得这种文章就是渣,但回头想想,至少说了些原则和方法论(SMART/GROW/PDCA/5W2H),大家有兴趣看看,当然文中都是点到为主,要行修还得靠自己。鄙人也没有那么强的功力娓娓道来。其
OLAP入门问答-进阶篇
续言前一篇文章从OLTP出发,通过对比引出OLAP,进一步介绍了数仓的基本概念,包括多维数据模型、数据立方体及其典型操作等。本篇再进一步,将介绍OLAP的类型及其代表产品,并分析主流开源OLAP产品的核心技术点。未看过前一篇文章的读者,欢迎点击链接(温正…
OLAP数仓入门问答-基础篇
前言过去近七年在网易杭研一直从事数据库相关的开发工作,主要是MySQL和MongoDB这两种数据库,去年开始涉及图数据库Neo4J。上述几种,都可认为是OLTP类数据处理,由于工作需要,需要调研学习OLAP技术和相关系统,本文开始逐步进行第一轮总结,很多东西还只…
从MySQL 8.0故障恢复看InnoDB及Binlog角色变化
最近在调试MySQL新功能发现MySQL 8.0相比5.7版本在mysqld crash recovery上有较大不同点,有必要记录下。主要包括事务gtid持久化到mysql.gtid_executed方式和InnoDB在其中发挥的作用。并延伸分析未来MySQL版本对InnoDB的定位。MySQL 5.7故障恢复逻辑关于这…
使用O_DIRECT_NO_FSYNC来提升MySQL性能
这篇文章很短,但很有价值~MySQL下InnoDB存储引擎有个innodb_flush_method只读参数,用户设置InnoDB的数据和redo日志文件flush行为。defines the method used to flush data toInnoDBdata files
提高mysql客户端使用效率的2个特性
本文介绍mysql这个MySQL客户端登录工具的2个高级特性edit和pager,可以提高我们使用mysql进行MySQL查询、问题分析和定位的效率。一.edit有时候我们可能会从其他地方拷贝一些sql语句,并进行改动。默认情况下,在mysql中进行换行后,前一行的数据就无法更改。所以,如果粘贴的s
提高mysql客户端使用效率的2个特性
本文介绍mysql这个MySQL客户端登录工具的2个高级特性edit和pager,可以提高我们使用mysql进行MySQL查询、问题分析和定位的效率。一. edit有时候我们可能会从其他地方拷贝一些sql语句,并进行改动。默认情况下,在mysql中进行换行后,前一行的数据就无法更改…
MySQL如何在非“双一”时保证数据不丢失?
一般情况下,MySQL作为OLTP数据库,为了保证事务提交后数据不丢失,需将sync_binlog和innodb_flush_log_at_trx_commit均设置为1(即“双一”设置)。本文分析在MySQL复制场景下是否可以突破“双一”限制并提供可行性方案。背景MySQL“双一”设置,指的是My
MySQL如何在非“双一”时保证数据不丢失?
一般情况下,MySQL作为OLTP数据库,为了保证事务提交后数据不丢失,需将sync_binlog和innodb_flush_log_at_trx_commit均设置为1(即“双一”设置)。本文分析在MySQL复制场景下是否可以突破“双一”限制并提供可行性方案。背景MySQL“双一”设置,指的是MyS…
MySQL Online DDL增量DML记录和回放的源码实现
中分析并验证了MySQL进行在线创建索引时,不会因为执行时间过长或业务压力较大,在回放增量DML时加锁时间过久而对业务造成严重影响,本文从MySQL8.0.19源码出发,分析MySQL是如何实现的。同时也确认是否在回放DML时会报duplicatekey。核心处理流程和对象增量DML处理流程主要在h
MySQL 8.0 Online DDL和pt-osc、gh-ost深度对比分析
本文基于MySQL8.0测试常用的DDL工具,通过多个维度进行对比分析。基本结论是MySQL原生OnlineDDL在性能、存储开销和易用性等方面有较大优势,目前在加列等场景可取代pt-osc/gh-ost,在创建索引等场景还需要做进一步优化。DDL工具实现分析在MySQL使用过程中,根据业务的需求对
MySQL Online DDL增量DML记录和回放的源码实现
在上一篇文章温正湖:MySQL 8.0 Online DDL和pt-osc、gh-ost深度对比分析中分析并验证了MySQL进行在线创建索引时,不会因为执行时间过长或业务压力较大,在回放增量DML时加锁时间过久而对业务造成严重影响,本文从MySQL 8.0.19源码出发,分析MySQL是如何实…
MySQL 8.0 Online DDL和pt-osc、gh-ost深度对比分析
本文基于MySQL 8.0测试常用的DDL工具,通过多个维度进行对比分析。基本结论是MySQL原生Online DDL在性能、存储开销和易用性等方面有较大优势,目前在加列等场景可取代pt-osc/gh-ost,在创建索引等场景还需要做进一步优化。DDL工具实现分析在MySQL使用过程中…
MySQL Group Replication之Arbiter节点实现方案分析
在上一篇文章中,我们探讨了在MGR中引入arbiter节点的必要性和可行性,本文重点分析如何实现。一、arbiter角色拆分围绕arbiter节点是否记录binlog信息这个关键点。我们做了些需求收集,并在完成arbiter功能原型实现后,在网易云环境上进行了测试。最终决定进行角色拆解:-从arbi
【精彩视频】在网易核心业务上的使用和优化实践(三)
MyRocks应用实现
【精彩视频】在网易核心业务上的使用和优化实践(二)
MyRocks优点分析
【精彩视频】在网易核心业务上的使用和优化实践(一)
MyRocks技术实现