Flink Kafka Connector 详解
Flink Source & Sink在 Flink 中,Source 代表从外部获取数据源,Transformation 代表了对数据进行转换操作,Sink 代表将内部数据写到外部数据源。一个 Flink Job 一般由 Source, Transformation, Sink 组成。Flink Kafka Source基本使用方式Properties properties&n
Flink 概述
Flink 相关概念Flink 支持哪些流式特性exactly-once 语义。支持基于事件发生时间的窗口计算,基于消息个数的窗口,基于处理时间的窗口计算,会话窗口。支持状态存储。支持 checkpoint。高吞吐,低延迟支持三种模式:本地模式,独立集群模式,Yarn/Mesos 模式。Flink 时间Flink 支持三种时间模型:事件时间(event time),处理时间(process tim
The Dataflow Model
现状现实中的数据:无边界、乱序、超大规模数据集数据消费需求:低延迟,exactly once, 有序(按发生时间排序),窗口(发生时间,处理时间,会话,记录数窗口)。流式计算引擎:Storm, Spark Streaming, MillWheel。批处理引擎:MapReduce, Spark, FlumeJava。现实很骨感,理想很丰满,真实的数据处理需要在以下 3 方面来平衡最佳实践目标输出一个
Maven 仓库管理
本节主要介绍如何配置 Maven 仓库,发布 jar 包到 Maven 仓库Maven 仓库是什么?Maven 仓库用来存储绝大部分的开源 Jar 包,当你在 pom.xml 文件中使用 dependency 元素引入某个依赖时,Maven 会自动从仓库内下载相关 Jar 包。Maven 仓库有哪些Maven 仓库本地仓库本地仓库指的是 ${user_home}/.m2/repository/,M
maven-assembly-plugin 入门指南
当你使用 Maven 对项目打包时,你需要了解以下 3 个打包 plugin,它们分别是pluginfunctionmaven-jar-pluginmaven 默认打包插件,用来创建 project jarmaven-shade-plugin用来打可执行包,executable(fat) jarmaven-assembly-plugin支持定制化打包方式,例如 apache 项目的打包方式下面我们
Maven 默认插件以及功能
Maven 默认插件已知 Maven 使用 plugin 来执行实际操作的,在默认情况下,Maven 会绑定以下几个插件来完成基本操作。pluginfunctionlife cycle phasemaven-clean-plugin清理上一次执行创建的目标文件cleanmaven-resources-plugin处理源资源文件和测试资源文件resources,testResourcesmaven-
Java 线程池剖析
概念线程 & 线程池什么是线程?提到线程,不得不提进程。进程是操作系统的最小资源单位,一个进程能使用多少虚拟内存,能打开多少文件标识符。线程是操作系统的最小调度单元,每个进程默认有一个主线程,它用来执行真正的任务。在什么情况下,需要使用线程?多个任务并发执行,提高 CPU 利用率,响应速度,执行效率。例如:主线程负责接收请求,工作线程负责处理请求。在什么情况下使用线程池?当你需要使用多个线
VIM 移动光标 & Bash 移动光标快捷键
VIM 快速移动光标快捷键行为ctrl+f向下移动一屏ctrl+b向上移动一屏hljk 或 方向箭头上下左右^将光标移动到当前行首$将光标移动到当前行尾b将光标往左移动一个单词B将光标往左移动一个单词,包括标点符号e将光标往右移动一个单词E将光标往右移动一个单词,包括标点符号Bash 快速移动光标快捷键行为ctrl+a移动到行首ctrl+e移动到行尾ctrl+f向右移动一个字符ctrl+b向左移动
VIM 删除字符 & Bash 删除字符快捷键
删除快捷键使用快捷键有两个优点:快,方便;装逼,炫耀。当你使用 VIM 删除某行内容时,是用 Del 按下去一个个字符的删除,还是一个 dd 快捷键一次性删除呢?当你使用 Bash 时,某一行命令打错了,你使用 Del 按下去一个个字符的删除错误的命令,还是一个 Ctrl + u 一次性将整行删除呢?显而易见 dd, ctrl + u 更快,更牛逼。VIM 删除字符快捷键行为x删除光标所在后面的字
Maven 依赖管理
管理包依赖是 Maven 核心功能之一,下面通过如何引入 jar 包;如何解析 jar 包依赖;包冲突是如何产生;如何解决包冲突;依赖管理解决什么问题;什么是依赖范围;使用包依赖的最佳实践等 6 个问题来介绍。如何引入 jar 包在代码开发时,如果需要使用第三方 jar 包提供的类库,那么需要在 pom.xml 加入该 jar 包依赖。例如:使用 zookeeper client<depen
maven-shade-plugin 入门指南
1. Why?通过 maven-shade-plugin 生成一个 uber-jar,它包含所有的依赖 jar 包。2. GoalsGoalDescriptionshade:helpDisplay help information on maven-shade-plugin.Callmvn shade:help -Ddetail=true -Dgoal=<goal-name>to di
Maven 生命周期
1. Maven 构建生命周期Maven 构建生命周期就是 Maven 将一个整体任务划分为一个个的阶段,类似于流程图,按顺序依次执行。也可以指定该任务执行到中间的某个阶段结束。Maven 的内部有三个构建生命周期,分别是 clean, default, site。其中 default 生命周期的核心阶段如下所示:default lifecycle2. 如何使用构建生命周期来完成构建工作可以指定某
Maven入门
为什么要用 Maven?Maven 主要帮助用户完成以下 3 个方面的工作:生命周期管理,便捷的构建过程;依赖管理,方便引入所需依赖 Jar 包;仓库管理,提供统一管理所有 Jar 包的工具;如何安装 Maven?下载 Maven 二进制包apache-maven-3.3.9-bin.tar.gz解压缩:tar xzvf apache-maven-3.3.9-bin.tar.g
常用 Linux 命令集(多图)
1、dfdf 查看硬盘空间的使用情况查看本机硬盘空间的使用情况:硬盘空间使用情况2、dudu 查看 目录 和 文件 所占磁盘空间大小du -s 目录/文件查看目录 IDEA_workspace 目录下 所有目录和文件 占用空间大小:IDEA_workspace 目录下各目录占用磁盘空间大小3、df du当遇到 “No space left on device” 时,应该如何利用