全部博文
-
编辑 删除
类Hadoop的高效分布式计算系统Spark
导读：本文对Spark进行了不厌其详的介绍，从比较优势到应用运行，再到对RDD的详解。多种模式下的编程语言也都罗列其中。 关键词：Spark 分布式计算系统 Spark是UC Berkeley AMP lab所开源的类Hadoop MapReduce的通用的并行计算框架，Spark基于map reduce算法实现的分布式计算，拥有Hadoop MapReduce所具有的优点;但不同于MapReduce的是Job中间输出和结果可以保存在内存中，从而不再需要读写HDFS，因此Spark能更好地适用于数据挖掘与机器学习等需要迭代的map reduce的算法。其架构如下图所示： Spark与Hadoop的对比
