flink1.14.0在yarn上运行报错--类加载错误--问题
错误信息 Exception in thread “Thread-6“ java.lang.IllegalStateException: Trying to access closed classloader. 问题原因hadoop3和flink存在的一个bughttps://issues.apache.org/jira/browse/FLINK-19916 解决方法flink-co
hadoop 存到hdfs的数据没有同步到其他机器上
失败场景如下 原因很简单,就是防火墙没有关闭关闭三台机器的防火墙:systemctl stop firewalldsystemctl disable firewalld
使用root用户启动hadoop报错
错误信息如下‘ERROR: Attempting to operate on hdfs namenode as rootERROR: but there is no HDFS_NAMENODE_USER defined. Aborting operation. 解决方法1、在start-dfs.sh,stop-dfs.sh两个文件顶部添加参数 HDFS_DATANODE_USER=root
Linux静态Ip配置失败
静态Ip地址配置 重启后发现IP没有设置成功原因是有两个配置需要去掉ONBOOT=”yes”HWADDR=”—-“
Windows下CentOS7虚拟机连不上网络的办法
网络连不上 以太网共享设置此时如果还不能连接上,则关闭下防火墙,一般就可以了。
RPC的概述
什么是RPCRPC 是远程过程调用(Remote Procedure Call)的缩写,分布式场景促使RPC领域的诞生,RPC可以通过 HTTP 来实现,也可以通过Socket自己实现,rpc是一种概念,http也是rpc实现的一种方式。比如阿里的Dubbo。 作用1、解决分布式服务之间的调用问题。2、远程调用和本地的调用一样方便,让调用者感知不到远程调用的逻辑。 RPC框架优势1、简单、
Gateway(网关)的概述
将两个使用不同协议的网络段连接在一起的设备。它的作用就是对两个网络段中的使用不同传输协议的数据进行互相的翻译转换。例如,一个商业内部局域网就常常需要通过网关发送电子邮件到Internet的相关地址。
进程、线程、纤程之间的区别?
进程是操作系统资源分配的基本单位,比如内存、打开文件、网络IO,分配了独立的内存空间 线程是操作系统资源调度的基本单位,cpu分配的基本单位 纤程是用户态的线程,是线程中的线程;切换和调度不需要经过OS(操作系统);轻量级的线程 。
算法中的O(1), O(n),O(logn), O(nlogn)
O(1)最低的时空复杂度,耗时/耗空间与输入数据大小无关,无论输入数据增大多少倍,耗时/耗空间都不变。比如哈希算法。 O(n)代表数据量增大几倍,耗时也增大几倍。比如遍历算法。 O(logn)当数据增大n倍时,耗时增大logn倍(这里的log是以2为底的,比如,当数据增大256倍时,耗时只增大8倍,是比线性还要低的时间复杂度)。比如二分查找算法。 O(nlogn)就是n乘以logn,当数
计算机中为什么要用二进制
1、二进制只有两个数码;2、二进制的四则运算规则简单;3、可以节省设备;4、二进制的符号【1】和【0】恰好与逻辑运算中的【对】与【错】对应。
Spark的工作原理
什么是RDD全称为Resillient Distributed Dataset,即弹性分布式数据集,RDD通过Hadoop上的文件,即HDFS文件进行创建,也可以通过程序中的集合来创建。 RDD的特点弹性:RDD数据默认情况下存放在内存中,但是在内存资源不足时,Spark也会自动将RDD数据写入磁盘;分布式:RDD在抽象上来说是一种元素数据的集合,通过分区在不同节点上从而达到并行操作;容错性
dbms是什么的简称
dbmsDBMS 是(Database Management System)数据库管理系统的简称
hadoop三大组件
MapReduceMapReduce是什么?1、 MapReduce是一种分布式计算框架 ;2、MR有两个阶段组成:Map和Reduce,用户只需实现map()和reduce()两个函数,即可实现分布式计算;3、Map()负责把一个大的block块进行切片并计算;4、Reduce() 负责把Map()切片的数据进行汇总、计算。MapReduce怎么做?1、对输入的数据进行切片,每个切片分配一个
Maven 仓库 mvnrepository
仓库地址https://mvnrepository.com/
自定义异常
RuntimeException异常自定义 public class ServiceException extends RuntimeException { public ServiceException() { super(); } public ServiceException(String message) { super(mess
transient关键词的概述
transient的作用1、类中某个变量如果被transient修饰,变量将不再是对象持久化的一部分,该变量内容在序列化后无法获得访问。2、transient关键字只能修饰变量,而不能修饰方法和类。注意,本地变量是不能被transient关键字修饰的。变量如果是用户自定义类变量,则该类需要实现Serializable接口。3、被transient关键字修饰的变量不再能被序列化,一个静态变量不管
IDEA创建Flink项目
查询Flink版本https://flink.apache.org/zh/downloads.html 创建项目注意,第三步需要填入信息如下:groupId:org.apache.flinkartifactId:flink-learn-javaversion:1.16.0或者其他版本点击Add,然后create即可。等待项目构建(这里时间较长) 项目完成
JUC的概述
什么是JUCjava.util .concurrent 工具包的简称。这是一个处理线程的工具包,JDK1.5 才有。 进程与线程进程(Process):是计算机中的程序关于某数据集合上的一次运行活动;是系统进行资源分配和调度的基本单位;是操作系统结构的基础; 进程是线程的容器;进程是程序的实体。简说:指在系统中正在运行的一个应用程序;程序一旦运行就是进程;进程是资源分配的最小单位。线程(th
JVM的概述
推荐链接https://www.kuangstudy.com/bbs/1557549426359590914https://www.bilibili.com/video/BV1iJ411d7jS
内存溢出和内存泄露
内存溢出内存溢出是指程序在申请内存时,没有足够的内存空间供其使用, 系统已经不能再分配出你所需要的空间。 内存泄露内存泄露是指程序在申请内存后,无法释放已申请的内存空间,一次内存泄露危害可以忽略,但是内存泄漏次数多了就会导致内存溢出。