美团基于 Flink 的实时数仓平台建设新进展
▼关注「ApacheFlink」,获取更多技术干货▼摘要:本文整理自美团实时数仓平台负责人姚冬阳在FlinkForwardAsia2021实时数仓专场的演讲。主要内容包括:平台建设现状遇到的问题及解决未来规划Tips:点击「阅读原文」查看原文视频&PPT~01平台建设现状美团于2018年
网易游戏 Flink SQL 平台化实践
▼关注「ApacheFlink」,获取更多技术干货▼摘要:本文整理自网易游戏开发工程师林小铂在FlinkForwardAsia2021平台建设专场的演讲。主要内容包括:网易游戏FlinkSQL发展历程基于模板jar的StreamflySQLv1基于SQLGateway的StreamflySQLv
懵了,Kafka、RabbitMQ到底选哪个?
经常有人问我有个xx需求,我应该用Kafka还是RabbitMQ?这个问题很常见,而且很多人对二者的选择也把握不好。所以我决定写篇文章来详细说一下:Kafka和RabbitMQ的区别,适用于什么场景?同时,这个问题在面试中也经常问到。下面我会通过6个场景,来对比分析一下Kafka和RabbitMQ的
七种方案!探讨Redis分布式锁的正确使用姿势
前言日常开发中,秒杀下单、抢红包等等业务场景,都需要用到分布式锁。而Redis非常适合作为分布式锁使用。本文将分七个方案展开,跟大家探讨Redis分布式锁的正确使用方式。如果有不正确的地方,欢迎大家指出哈,一起学习一起进步。公众号:「捡田螺的小男孩」什么是分布式锁方案一:SETNX+EXPIRE方案
Kafka性能篇:为何Kafka这么"快"?
『码哥』的Redis系列文章有一篇讲透了Redis的性能优化——《Redis核心篇:唯快不破的秘密》。深入地从IO、线程、数据结构、编码等方面剖析了Redis“快”的内部秘密。65哥深受启发,在学习Kafka的过程中,发现Kafka也是一个性能十分的中间件,遂要求『码哥』讲一讲Kafka性能优化
图解 Kafka 生产者初始化核心流程
点击上方"华仔聊技术"右上角选择设为星标硬核技术文章不会错过!阅读本文大约需要30分钟。大家好,我是华仔,又跟大家见面了。从今天开始我将以「Kafka2.7」版本为主,通过「场景驱动」的方式带大家一点点的对Kafka源码进行深度剖析,正式开启「Kafka的源码之旅」,跟我一起来掌握Kafka源码核心
Kafka 负载均衡在 vivo 的落地实践
vivo互联网服务器团队-YouShuo副本迁移是Kafka高频的操作,对于一个拥有几十万个副本的集群,通过人工去完成副本迁移是一件很困难的事情。CruiseControl作为Kafka的运维工具,它包含了Kafka服务上下线、集群内负载均衡、副本扩缩容、副本缺失修复以及节点降级等功能。显然,Cr
生产故障|Kafka消息发送延迟达到几十秒的罪魁祸首竟然是...
点击上方“中间件兴趣圈”,选择“设为星标”越努力越幸运,唯有坚持不懈!以前我在知其然而知其所以然,为什么Kafka在2.8版本中会“抛弃”Zookeeper一文中阐述了为什么官方要废弃Zookeeper,当时我记得有读者反驳说zookeeper非常稳定,基本不会出现什么问题,笔者在双十一期间遇到的问
字节跳动 Flink 状态查询实践与优化
摘要:本文整理自字节跳动基础架构工程师,ApacheFlinkContributor马越在FlinkForwardAsia2021平台建设专场的演讲。主要内容包括:背景StateProcessorAPI介绍StateMetaSnapshot机制StateasDatabase使用FlinkBatchS
我用kafka两年踩过的一些非比寻常的坑
大家好,我是苏三,又和大家见面了。前言我的上家公司是做餐饮系统的,每天中午和晚上用餐高峰期,系统的并发量不容小觑。为了保险起见,公司规定各部门都要在吃饭的时间轮流值班,防止出现线上问题时能够及时处理。我当时在后厨显示系统团队,该系统属于订单的下游业务。用户点完菜下单后,订单系统会通过发kafka消息
懵了,Kafka、RabbitMQ到底选哪个?
经常有人问我有个xx需求,我应该用Kafka还是RabbitMQ?这个问题很常见,而且很多人对二者的选择也把握不好。所以我决定写篇文章来详细说一下:Kafka和RabbitMQ的区别,适用于什么场景?同时,这个问题在面试中也经常问到。下面我会通过6个场景,来对比分析一下Kafka和RabbitMQ的
搞透Kafka的存储架构,看这篇就够了
阅读本文大约需要30分钟。这篇文章干货很多,希望你可以耐心读完。你好,我是华仔,在这个1024程序员特殊的节日里,又和大家见面了。从这篇文章开始,我将对Kafka专项知识进行深度剖析,今天我就来聊聊kafka的存储系统架构设计,说到存储系统,大家可能对MySQL比较熟悉,也知道MySQL是基于B+t
搞透Kafka的存储架构,看这篇就够了
阅读本文大约需要30分钟。这篇文章干货很多,希望你可以耐心读完。你好,我是华仔,在这个1024程序员特殊的节日里,又和大家见面了。从这篇文章开始,我将对Kafka专项知识进行深度剖析,今天我就来聊聊kafka的存储系统架构设计,说到存储系统,大家可能对MySQL比较熟悉,也知道MySQL是基于B+t
Redis主从、哨兵、 Cluster集群一锅端!
前言大家好,我是捡田螺的小男孩。今天跟小伙伴们一起学习Redis的主从、哨兵、RedisCluster集群。Redis主从Redis哨兵RedisCluster集群1.Redis主从面试官经常会问到Redis的高可用。Redis高可用回答包括两个层面,一个就是数据不能丢失,或者说尽量减少丢失;另外一
实时数据湖 Flink Hudi 实践探索
分享嘉宾:陈玉兆阿里云技术专家编辑整理:徐纯根天翼云科技公司出品平台:DataFunTalk导读:首先做个自我介绍,我目前在阿里云云计算平台,从事研究Flink和Hudi结合方向的相关工作。目前,Flink+Hudi的方案推广大概已经有了一年半的时间,在国内流行度也已比较高,主流的公司也会尝试去迭代
字节跳动 Flink 状态查询实践与优化
摘要:本文整理自字节跳动基础架构工程师,ApacheFlinkContributor马越在FlinkForwardAsia2021平台建设专场的演讲。主要内容包括:背景StateProcessorAPI介绍StateMetaSnapshot机制StateasDatabase使用FlinkBatchS
Kafka丢失数据问题优化总结以及重复消费原因分析(一)
.css-1yuhvjn{margin-top:16px;}.css-3jt6os.FileLinkCard{-webkit-align-items:center;-webkit-box-align:center;-ms-flex-align:center;align-items:center;ba
Kafka丢失数据问题优化总结以及重复消费原因分析(二)
.css-1yuhvjn{margin-top:16px;}.css-3jt6os.FileLinkCard{-webkit-align-items:center;-webkit-box-align:center;-ms-flex-align:center;align-items:center;ba
图解 Kafka 生产者初始化核心流程
今天这篇我们先来聊聊Kafka生产者初始化时用到的核心组件以及发送的核心流程,带你梳理生产者初始化整体的源码分析脉络。认真读完这篇文章,我相信你会对Kafka生产初始化源码有更加深刻的理解。这篇文章干货很多,希望你可以耐心读完。01总体概述我们都知道在Kafka中,我们把产生消息的一方称为生产者即P
讲真!Kafka 的原理竟是这样的,一看就明白!
Kafka是主流的消息流系统,其中的概念还是比较多的,下面通过图示的方式来梳理一下Kafka的核心概念,以便在我们的头脑中有一个清晰的认识。01基础Kafka是一套流处理系统(也可以叫消息队列),可以让后端服务轻松地相互沟通,是微服务架构中的常用组件。02生产者消费者生产者服务Producer向Ka