ITPub博客

首页 > 大数据 > Spark > Apache Spark有何用途?有何特点?

Apache Spark有何用途?有何特点?

Spark 作者:候鸟之恋 时间:2022-10-27 16:15:03 0 删除 编辑

Apache Spark是专为大规模数据处理而设计的快速通用的计算引擎。它支持多语言,提供了 Java、Scala、Python 和 R 中的高级 API,以及支持通用执行图的优化引擎。

 

用途:

数据分析:数据分析师主要负责分析数据并建模的人,具备 SQL 统计 预测建模等方面的技能,有一定使用Python和Matlab或者R编程的能力。

 

Spark通过一系列组件支持数据分析任务。Spark Shell提供Python和Scala接口来进行交互式数据分析。Spark SQL提供独立的SQL shell来使用SQL探索数据,也可以通过标准的Spark程序或者Spark shell进行SQL查询。MLlib程序库进行机器学习和数据分析。Spark还支持调用R或者Matlab外部程序。

 

数据处理:工程师是使用 Spark开发数据处理应用的软件开发者。他们具备软件工程概念,能使用工程技术设计软件系统。

 

Spark为开发用于集群并执行的程序提供了捷径。不需要开发者关注分布式问题,网络通信及程序容错性。为工程师提供足够的接口实现常见的任务及对应用监性能调优。

 

特点:

快速性: spark通过使用先进的DAG调度器、查询优化器和物理执行引擎,可以高性能地进行批量及流式处理。使用逻辑回归算法进行迭代计算,spark比hadoop速度快100多倍。

 

通用性: Spark 提供了大量的库,包括Sark Core、Spark SQL、Spark Steaming、MLlib、GraphX。开发者可以在同一个应用程序中无缝组合使用这些库。spark构建了一个完善的生态栈,将批量计算、交互式计算、流式计算、机器学习及图计算整合到一个统一的框架体系中。

 

易用性: Spark提供了80多个高级运算符。gendan5.com/zs/diniw.html

 

多种资源管理器支持: Spark支持Hadoop YARN、Apache Mesos以及自带的独立集群管理器。

 

多数据源支持: Spark支持访问HDFS、Alluxio、Cassandra、HBase、Hive以及数百个其他数据源中的数据。


来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70014563/viewspace-2920700/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2022-03-02

  • 博文量
    189
  • 访问量
    127594