ITPub博客

首页 > IT职业 > IT生活 > 写给小白的pySpark入门

写给小白的pySpark入门

IT生活 作者:karspb 时间:2021-09-09 10:06:49 0 删除 编辑

1. 创建键值对RDD ( Pair RDD)

RDD中可以包含任何类型的对象。其中,键值对是一种比较常见的RDD元素类型,在分组和聚合中经常会用到。

首先在本地创建一个word.txt,然后上传到hadoop目录中。

方法a:从文件中加载,来创建键值对RDD

pyspark --queue 队列名   [进入spark]

lines = sc.textFile("hadoop地址/word.txt") [加载文件到rdd中]



作者:Macroholica
链接:https://www.jianshu.com/p/a18fd1e5e8e4


来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/2001/viewspace-2816634/ ,如需转载,请注明出处,否则将追究法律责任。

上一篇: Servlet 体系结构
下一篇: css使用记录
请登录后发表评论 登录
全部评论

注册时间:2019-07-31

  • 博文量
    222
  • 访问量
    16823