Java的三大特性
封装概述:数据的隐藏,对象具体具体实现的隐藏,对外部则提供统一的访问接口。高内聚:类的内部数据操作细节自己完成,不允许外部的干涉。低耦合:仅暴露少量得方法给外部使用。封装:禁止直接访问一个对象中数据的实际表示,而应该通过操作接口来访问。开发备注:属性需要私有,通过get/set方法设置作用:1、保护数据,提高程序的安全性。2、隐藏代码的实现细节。3、统一接口,get/set。4、增加了系统可维
Flink On Yarn 作业启动速度之优化
依赖及配置等加载作业依赖,比如jar、配置文件等默认会从HDFS上面下载,提交到用得application_id目录下面,都是私有的依赖。 优化配置加载Flink 1.11 之后,提供了一个配置: yarn.provided.lib.dirs 将 Flink 的依赖 jar 包放到 HDFS,后期下载的依赖会放到一个公共的目录中,是 共享的,第一次下载后,后期如果依赖没有发生变动的话
java将map转成bean工具
第一种:BeanUtils import org.apache.commons.beanutils.BeanUtils; Map map = new HashMap(); map.put("name", "John"); map.put("age", 30);
JAVA加载配置文件方法
加载方法 public class BackgroundConfigUtil { public static final Logger LOGGER = LoggerFactory.getLogger(BackgroundConfigUtil.class); private static final String PATH = "prod.properties&
IDEA运行报错,java: 警告: 源发行版 11 需要目标发行版 11
错误信息java: 警告: 源发行版 11 需要目标发行版 11 解决方法1、如果你是在使用 IDE,请检查你的项目设置,确保你使用的是 Java 11 编译器。2、如果你是使用命令行编译和运行程序,请确保你已经安装了 Java 11 环境,并使用 javac 和 java 命令来编译和运行你的代码。3、如果你的代码是用 Maven 或 Gradle 构建的,请检查你的 pom.xml 或
longValue( )和Long.valueOf( )的区别
longValue( )longValue()是Long类的一个方法,用来得到Long类中的数值;即将包装类中的数据拆箱成基本数据类型。 Long.valueOf( )Long.valueOf(参数)是将参数转换成long的包装类——Long;即把基本数据类型转换成包装类。
OLAP和OLTP的区别
OLTP是传统的关系型数据库的主要应用,主要是基本的、日常的事务处理,记录即时的增、删、改、查; OLAPOLAP即联机分析处理,是数据仓库的核心部心,支持复杂的分析操作,侧重决策支持,并且提供直观易懂的查询结果。典型的应用就是复杂的动态报表系统。 实时性OLTP实时性要求高;OLAP的实时性要求不是很高; 数据量OLTP数据量不是很大,一般只读/写数十条记录,处理简单的事务;OLAP数
Flink内存管理
内存管理方式1、Flink 将对象序列化为固定数量的预先分配的内存段,⽽不是直接把对象放在堆内存上。2、尽量操作二进制数据,以此将序列化和反序列化开销降到最低;3、处理的数据大于可以保存的内存情况下,Flink 的运算符会将部分数据溢出到磁盘。 内存管理的优势1、内存安全执⾏和⾼效的核外算法利用内存段机制,防止内存溢出。2、减少垃圾收集压⼒所有⻓⽣命周期的数据都是在 Flink 的管理内存中
Flink全量快照的实现
实现步骤1、实现的方法是snapshotFully();2、通过 CheckpointStreamFactory 拿到 CheckpointStateOutputStream;3、然后将 RocksDB ⾃身的 snapshot 全量写出;4、然后通过 CheckpointStreamFactory 拿到 CheckpointStateOutputStream 作为快照写出流,分别将快照的 m
Flink增量快照的实现
实现步骤1、从snapshotIncrementally()这个方法开始;2、增量快照数据分为两部分,meta、state数据;3、state 数据的写⼊,会将 checkpoint 写出到CheckpointStateOutputStream,将 RocksDB 快照 写出到CheckpointStateOutputStream;4、创建⽤于创建可打开快照的Checkpoint对象,然后在R
Flink启动Yarn session模式的部署报错
报错信息 Error: A JNI error has occurred, please check your installation and try again Exception in thread "main" java.lang.NoClassDefFoundError: org/apache/hadoop/yarn/exceptions/YarnExcept
flink1.14.0在yarn上运行报错--HADOOP_CLASSPATH environment--问题
错误信息 java.lang.IllegalStateException: No Executor found. Please make sure to export the HADOOP_CLASSPATH environment variable or have hadoop in your classpath. For more information refer to the &q
flink1.14.0在yarn上运行报错--类加载错误--问题
错误信息 Exception in thread “Thread-6“ java.lang.IllegalStateException: Trying to access closed classloader. 问题原因hadoop3和flink存在的一个bughttps://issues.apache.org/jira/browse/FLINK-19916 解决方法flink-co
hadoop 存到hdfs的数据没有同步到其他机器上
失败场景如下 原因很简单,就是防火墙没有关闭关闭三台机器的防火墙:systemctl stop firewalldsystemctl disable firewalld
使用root用户启动hadoop报错
错误信息如下‘ERROR: Attempting to operate on hdfs namenode as rootERROR: but there is no HDFS_NAMENODE_USER defined. Aborting operation. 解决方法1、在start-dfs.sh,stop-dfs.sh两个文件顶部添加参数 HDFS_DATANODE_USER=root
Linux静态Ip配置失败
静态Ip地址配置 重启后发现IP没有设置成功原因是有两个配置需要去掉ONBOOT=”yes”HWADDR=”—-“
Windows下CentOS7虚拟机连不上网络的办法
网络连不上 以太网共享设置此时如果还不能连接上,则关闭下防火墙,一般就可以了。
RPC的概述
什么是RPCRPC 是远程过程调用(Remote Procedure Call)的缩写,分布式场景促使RPC领域的诞生,RPC可以通过 HTTP 来实现,也可以通过Socket自己实现,rpc是一种概念,http也是rpc实现的一种方式。比如阿里的Dubbo。 作用1、解决分布式服务之间的调用问题。2、远程调用和本地的调用一样方便,让调用者感知不到远程调用的逻辑。 RPC框架优势1、简单、
Gateway(网关)的概述
将两个使用不同协议的网络段连接在一起的设备。它的作用就是对两个网络段中的使用不同传输协议的数据进行互相的翻译转换。例如,一个商业内部局域网就常常需要通过网关发送电子邮件到Internet的相关地址。
进程、线程、纤程之间的区别?
进程是操作系统资源分配的基本单位,比如内存、打开文件、网络IO,分配了独立的内存空间 线程是操作系统资源调度的基本单位,cpu分配的基本单位 纤程是用户态的线程,是线程中的线程;切换和调度不需要经过OS(操作系统);轻量级的线程 。