文章目录
- 一、提出任务
- 二、完成任务
- (一)新建Maven项目
- (二)添加相关依赖和构建插件
- (三)创建日志属性文件
- (四)创建计算平均分单例对象
- (五)本地运行程序,查看结果
- 三、课后练习
- 任务1、计算平均分,按平均分降序排列
- 任务2、利用Spark RDD计算平均分
一、提出任务
- 预备工作:启动集群的HDFS与Spark
- 在HDFS上新建/score目录
- 在master虚拟机上创建三个成绩文件
- 将三个成绩文件上传到HDFS的/score目录
二、完成任务
(一)新建Maven项目
- 设置项目信息(项目名、保存位置、组编号、项目编号)
- 将java目录改成scala目录
(二)添加相关依赖和构建插件
- 在pom.xml文件里添加依赖与Maven构建插件
4.0.0
net.cb.sql
CalculateAverage
1.0-SNAPSHOT
org.scala-lang
scala-library
2.11.12
org.apache.spark
spark-core_2.11
2.1.1
org.apache.spark
spark-sql_2.11
2.1.1
src/main/scala
org.apache.maven.plugins
maven-assembly-plugin
3.3.0
jar-with-dependencies
make-assembly
package
single
net.alchim31.maven
scala-maven-plugin
3.3.2
scala-compile-first
process-resources
add-source
compile
scala-test-compile
process-test-resources
testCompile
(三)创建日志属性文件
- 在资源文件夹里创建日志属性文件 - log4j.properties
log4j.rootLogger=ERROR, stdout, logfile
log4j.appender.stdout=org.apache.log4j.ConsoleAppender
log4j.appender.stdout.layout=org.apache.log4j.PatternLayout
log4j.appender.stdout.layout.ConversionPattern=%d %p [%c] - %m%n
log4j.appender.logfile=org.apache.log4j.FileAppender
log4j.appender.logfile.File=target/spark.log
log4j.appender.logfile.layout=org.apache.log4j.PatternLayout
log4j.appender.logfile.layout.ConversionPattern=%d %p [%c] - %m%n
(四)创建计算平均分单例对象
- 在net.cb.sql包里创建CalculateAverageBySQL单例对象
package net.cb.sql
import org.apache.spark.sql.{Dataset, SparkSession}
object CalculateAverageBySQL {
def main(args: Array[String]): Unit = {
// 创建或得到Spark会话对象
val spark = SparkSession.builder()
.appName("CalculateAverageBySQL")
.master("local[*]")
.getOrCreate()
// 读取HDFS上“/score”目录里的成绩文件
val lines: Dataset[String] = spark.read.textFile("hdfs://master:9000/score")
// 导入隐式转换
import spark.implicits._
// 创建成绩数据集
val gradeDS: Dataset[Grade] = lines.map(
line => {
val fields = line.split(" ")
val id = fields(0).toInt
val name = fields(1)
val score = fields(2).toInt
Grade(id, name, score)
})
// 将数据集转换成数据帧
val df = gradeDS.toDF();
// 基于数据帧创建临时表
df.createOrReplaceTempView("t_grade")
// 查询临时表,计算平均分
val avg = spark.sql(
"""
|select first(id) as id, name, cast(avg(score) as decimal(5, 2)) as average
| from t_grade
| group by name
| order by id
|""".stripMargin
)
// 按照指定格式输出平均成绩
println()
avg.collect.foreach(row => println(row(0) + " " + row(1) + " " + row (2)))
// 关闭Spark会话
spark.close()
}
// 定义成绩样例类
case class Grade(id: Int, name: String, score: Int)
}
(五)本地运行程序,查看结果
三、课后练习
任务1、计算平均分,按平均分降序排列
任务2、利用Spark RDD计算平均分