首页 > 大数据 > 数据挖掘 > 一套用来处理海量数据的软件工具应运而生,这就是大数据!
换个角度说,大数据是:
1 、有海量的数据
2 、有对海量数据进行挖掘的需求
3 、有对海量数据进行挖掘的软件工具( hadoop 、 spark 、 storm 、 flink 、 tez 、 impala...... )
大数据在现实生活中的具体应用
电商推荐系统:基于海量的浏览行为、购物行为数据,进行大量的算法模型的运算,得出各类推荐结论,以供电商网站页面来为用户进行商品推荐。
精准广告推送系统:基于海量的互联网用户的各类数据,统计分析,进行用户画像(得到用户的各种属性标签),然后可以为广告主进行有针对性的精准的广告投放。
2 、那什么是 hadoop 呢?
hadoop 中有 3 个核心组件:
分布式文件系统:HDFS —— 实现将文件分布式存储在很多的服务器上
分布式运算编程框架:MAPREDUCE —— 实现在很多机器上分布式并行运算
分布式资源调度平台:YARN —— 帮用户调度大量的 mapreduce 程序,并合理分配运算资源
3 、最后来说一下 hdfs 整体运行机制
hdfs :分布式文件系统
hdfs 有着文件系统共同的特征:
1 、有目录结构,顶层目录是: /
2 、系统中存放的就是文件
3 、系统可以提供对文件的:创建、删除、修改、查看、移动等功能
hdfs 跟普通的单机文件系统有区别:
1 、单机文件系统中存放的文件,是在一台机器的操作系统中
2 、 hdfs 的文件系统会横跨 N 多的机器
3 、单机文件系统中存放的文件,是在一台机器的磁盘上
4 、 hdfs 文件系统中存放的文件,是落在 n 多机器的本地单机文件系统中( hdfs 是一个基于 linux 本地文件系统之上的文件系统)
hdfs 的工作机制:
1 、客户把一个文件存入 hdfs ,其实 hdfs 会把这个文件切块后,分散存储在 N 台 linux 机器系统中(负责存储文件块的角色: data node ) < 准确来说:切块的行为是由客户端决定的 >
2 、一旦文件被切块存储,那么, hdfs 中就必须有一个机制,来记录用户的每一个文件的切块信息,及每一块的具体存储机器(负责记录块信息的角色是: name node )
3 、为了保证数据的安全性, hdfs 可以将每一个文件块在集群中存放多个副本(到底存几个副本,是由当时存入该文件的客户端指定的)
综述:一个hdfs 系统,由一台运行了 namenode 的服务器,和 N 台运行了 datanode 的服务器组成!
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70015517/viewspace-2877218/ ,如需转载,请注明出处,否则将追究法律责任。