ITPub博客

首页 > 大数据 > 数据挖掘 > 一套用来处理海量数据的软件工具应运而生,这就是大数据!

一套用来处理海量数据的软件工具应运而生,这就是大数据!

数据挖掘 作者:wbhljpk99 时间:2022-03-20 13:17:01 0 删除 编辑

换个角度说,大数据是:

1 、有海量的数据

2 、有对海量数据进行挖掘的需求

3 、有对海量数据进行挖掘的软件工具( hadoop 、 spark 、 storm 、 flink 、 tez 、 impala...... )

大数据在现实生活中的具体应用

电商推荐系统:基于海量的浏览行为、购物行为数据,进行大量的算法模型的运算,得出各类推荐结论,以供电商网站页面来为用户进行商品推荐。

精准广告推送系统:基于海量的互联网用户的各类数据,统计分析,进行用户画像(得到用户的各种属性标签),然后可以为广告主进行有针对性的精准的广告投放。

2 、那什么是 hadoop 呢?

hadoop 中有 3 个核心组件:

分布式文件系统:HDFS  —— 实现将文件分布式存储在很多的服务器上

分布式运算编程框架:MAPREDUCE  —— 实现在很多机器上分布式并行运算

分布式资源调度平台:YARN  —— 帮用户调度大量的 mapreduce 程序,并合理分配运算资源

3 、最后来说一下 hdfs 整体运行机制

hdfs :分布式文件系统

hdfs 有着文件系统共同的特征:

1 、有目录结构,顶层目录是:   /

2 、系统中存放的就是文件

3 、系统可以提供对文件的:创建、删除、修改、查看、移动等功能

hdfs 跟普通的单机文件系统有区别:

1 、单机文件系统中存放的文件,是在一台机器的操作系统中

2 、 hdfs 的文件系统会横跨 N 多的机器

3 、单机文件系统中存放的文件,是在一台机器的磁盘上

4 、 hdfs 文件系统中存放的文件,是落在 n 多机器的本地单机文件系统中( hdfs 是一个基于 linux 本地文件系统之上的文件系统)

hdfs 的工作机制:

1 、客户把一个文件存入 hdfs ,其实 hdfs 会把这个文件切块后,分散存储在 N 台 linux 机器系统中(负责存储文件块的角色: data node ) < 准确来说:切块的行为是由客户端决定的 >

2 、一旦文件被切块存储,那么, hdfs 中就必须有一个机制,来记录用户的每一个文件的切块信息,及每一块的具体存储机器(负责记录块信息的角色是: name node )

3 、为了保证数据的安全性, hdfs 可以将每一个文件块在集群中存放多个副本(到底存几个副本,是由当时存入该文件的客户端指定的)

综述:一个hdfs 系统,由一台运行了 namenode 的服务器,和 N 台运行了 datanode 的服务器组成!


来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70015517/viewspace-2877218/ ,如需转载,请注明出处,否则将追究法律责任。

上一篇: 没有了~
请登录后发表评论 登录
全部评论

注册时间:2022-03-20

  • 博文量
    10
  • 访问量
    3844