ITPub博客

首页 > 大数据 > 数据分析 > 大数据平台搭建层次有哪些

大数据平台搭建层次有哪些

原创 数据分析 作者:大数据小知识 时间:2020-06-18 13:44:42 0 删除 编辑

  大数据分析处理平台就是整合当前主流的各种具有不同侧重点的大数据处理分析框架和工具,实现对数据的挖掘和分析,大数据平台是随着大数据技术的发展而逐渐被企业所关注的一个技术,而今天我们就一起来了解一下,大数据平台搭建都有哪些架构层次。

大数据平台搭建层次有哪些

 

  大数据平台搭建都有哪些架构层次

 

  1、数据传输层

 

  Sqoop:支持RDBMS和HDFS之间的双向数据迁移,通常用于抽取业务数据库(比如MySQL、SQLServer、Oracle)的数据到HDFS.

 

  Cannal:阿里开源的数据同步工具,通过监听MySQL binlog,实现增量数据订阅和近实时同步。

 

  Flume:用于海量日志采集、聚合和传输,将产生的数据保存到HDFS或者Hba se中。

 

  Flume+Kafka:满足实时流式日志的处理,后面再通过Spark Streaming等流式处理技术,可完成日志的实时解析和应用。

 

  2、数据存储层

 

  HDFS:分布式文件系统,它是分布式计算中数据存储管理的基础,是Google GFS的开源实现,可部署在廉价商用机器上,具备高容错、高吞吐和高扩展性。

 

  Hba se:分布式的、面向列的NoSQL KV数据库,它是Google BigTable的开源实现,利用HDFS作为其文件存储系统,适合大数据的实时查询(比如:IM场景)。

 

  Kudu:折中了HDFS和Hba se的分布式数据库,既支持随机读写、又支持OLAP分析的大数据存储引擎(解决Hba se不适合批量分析的痛点)。

 

  3、资源管理层

 

  Yarn:Hadoop的资源管理器,负责Hadoop集群资源的统一管理和调度,为运算程序(MR任务)提供服务器运算资源(CPU、内存),能支持MR、Spark、Fl ink等多种框架。

 

  Kubernates:由Google开源,一种云平台的容器化编排引擎,提供应用的容器化管理,可在不同云、不同版本操作系统之间进行迁移。目前,Spark、Storm已经支持K8S。

 

  4、数据计算层

 

  大数据计算引擎决定了计算效率,是大数据平台最核心的部分,它大致了经历以下4代的发展,又可以分成离线计算框架和实时计算框架。

 

  5、离线计算框架

 

  MapReduce:面向大数据并行处理的计算模型、框架和平台(将计算向数据靠拢、减少数据传输,这个设计思路非常巧妙)。

 

  Hive:一个数据仓库工具,能管理HDFS存储的数据,可以将结构化的数据文件映射为一张数据库表,并提供完整的SQL查询功能(实际运行时,是将Hive SQL翻译成了MapReduce任务),适用离线非实时数据分析。

 

  Spark sql:引入RDD(弹性分布式数据集)这一特殊的数据结构,将SQL转换成RDD的计算,并将计算的中间结果放在内存中,因此相对于Hive性能更高,适用实时性要求较高的数据分析场景。

 

  6、实时计算框架

 

  Spark Streaming:实时流数据处理框架(按时间片分成小批次,s级延迟),可以接收Kafka、Flume、HDFS等数据源的实时输入数据,经过处理后,将结果保存在HDFS、RDBMS、Hba se、Redis、Dashboard等地方。

 

  Storm:实时流数据处理框架,真正的流式处理,每条数据都会触发计算,低延迟(ms级延迟)。

 

  Fl ink:更高级的实时流数据处理框架,相比Storm,延迟比storm低,而且吞吐量更高,另外支持乱序和调整延迟时间。

 

  7、多维分析层

 

  Kylin:分布式分析引擎,能在亚秒内查询巨大的Hive表,通过预计算(用空间换时间)将多维组合计算好的结果保存成Cube存储在Hba se中,用户执行SQL查询时,将SQL转换成对Cube查询,具有快速查询和高并发能力。

 

  Druid:适用于实时数据分析的高容错、高性能开源分布式系统,可实现在秒级以内对十亿行级别的表进行任意的聚合分析。

 

  大数据平台搭建层次有哪些.中琛魔方大数据软件()表示数据在企业的运营和精细化管理能起到比较好的作用。企业构建大数据体系是艰巨的任务,无论是谁主导,都需要说动高层,提供有力的从上至下的执行。


来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/69936596/viewspace-2699169/,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论
中琛魔方大数据分析平台(www.zcmorefun.com)

注册时间:2019-07-01

  • 博文量
    908
  • 访问量
    442786