栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

【Spark Core】 RDD文件读取与保存

【Spark Core】 RDD文件读取与保存

Spark的数据读取及数据保存可以从两个维度来作区分:

  • 文件格式
    文件格式分为:text文件、csv文件、sequence文件以及Object文件;
  • 文件系统。
    文件系统分为:本地文件系统、HDFS、Hbase以及数据库。

1.从text文件读取数据,和写到text文件中

// 读取输入文件
val inputRDD: RDD[String] = sc.textFile("input/1.txt")

// 保存数据
inputRDD.saveAsTextFile("output")

一个分区对应一个文件

2.sequence文件

  • SequenceFile文件是Hadoop用来存储二进制形式的key-value对而设计的一种平面文件(Flat File)。
  • 在SparkContext中,可以调用sequenceFile[keyClass, valueClass](path)。
  • 只能用于KV类型的RDD
// 保存数据为SequenceFile
dataRDD.saveAsSequenceFile("output")

// 读取SequenceFile文件
sc.sequenceFile[Int,Int]("output").collect().foreach(println)

泛型是保存的时候数据的类型

3.object对象文件
对象文件是将对象序列化后保存的文件,采用Java的序列化机制。
可以通过objectFile[T: ClassTag](path)函数接收一个路径,读取对象文件,返回对应的RDD,也可以通过调用saveAsObjectFile()实现对对象文件的输出。因为是序列化所以要指定类型。

// 保存数据
dataRDD.saveAsObjectFile("output")

// 读取数据
sc.objectFile[Int]("output").collect().foreach(println)

泛型是保存的时候数据的类型

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/311440.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号