- 一、提出问题
- 二、解决问题
- (一)新建Maven项目
- (二)添加依赖
- (三)新建日志属性文件
- (四)创建计算平均分单例对象
- (五)运行程序
- 计算学生成绩平均分
- java成绩
1 张益达 85 2 李炫迈 91 3 王绿箭 79 4 甄子丹 90 5 李连杰 93 6 关云长 91 7 赵子龙 87 8 李哪吒 81
- Django成绩
1 张益达 87 2 李炫迈 90 3 王绿箭 89 4 甄子丹 88 5 李连杰 90 6 关云长 79 7 赵子龙 92 8 李哪吒 89
- Spark成绩
1 张益达 78 2 李炫迈 95 3 王绿箭 79 4 甄子丹 89 5 李连杰 91 6 关云长 90 7 赵子龙 95 8 李哪吒 79
-
启动HDFS集群与Spark
-
在HDFS上新建 /score目录
-
在/home目录下新建三个文本文件:java.txt django.txt spark.txt
- 将三个文件上传到HDFS的/score目录下
- 分别查看三个文件内容
- 修改pom.xml文件
(三)新建日志属性文件4.0.0 net.xjx.sql GradeTopNBySQL 1.0-SNAPSHOT org.scala-lang scala-library 2.11.12 org.apache.spark spark-core_2.11 2.1.1 org.apache.spark spark-sql_2.11 2.1.1 src/main/scala org.apache.maven.plugins maven-assembly-plugin 3.3.0 jar-with-dependencies make-assembly package single net.alchim31.maven scala-maven-plugin 3.3.2 scala-compile-first process-resources add-source compile scala-test-compile process-test-resources testCompile
- 在resources目录下创建日志属性文件log4j
log4j.rootLogger=ERROR, stdout, logfile log4j.appender.stdout=org.apache.log4j.ConsoleAppender log4j.appender.stdout.layout=org.apache.log4j.PatternLayout log4j.appender.stdout.layout.ConversionPattern=%d %p [%c] - %m%n log4j.appender.logfile=org.apache.log4j.FileAppender log4j.appender.logfile.File=target/spark.log log4j.appender.logfile.layout=org.apache.log4j.PatternLayout log4j.appender.logfile.layout.ConversionPattern=%d %p [%c] - %m%n
- 将java目录改为scala
- 创建net.xjx.sql
- 在net.xjx.sql包里创建CalculateAverageBySQL
package net.xjx.sql
import org.apache.spark.sql.{Dataset, SparkSession}
object CalculateAverageBySQL {
def main(args: Array[String]): Unit = {
// 创建或得到Spark会话对象
val spark = SparkSession.builder()
.appName("CalculateAverageBySQL")
.master("local[*]")
.getOrCreate()
// 读取HDFS上“/score”目录里的成绩文件
val lines: Dataset[String] = spark.read.textFile("hdfs://master:9000/score")
// 导入隐式转换
import spark.implicits._
// 创建成绩数据集
val gradeDS: Dataset[Grade] = lines.map(
line => {
val fields = line.split(" ")
val name = fields(1)
val score = fields(2).toInt
Grade(name, score)
})
// 将数据集转换成数据帧
val df = gradeDS.toDF();
// 基于数据帧创建临时表
df.createOrReplaceTempView("t_grade")
// 查询临时表,计算平均分
val avg = spark.sql(
"""
|select name, cast(avg(score) as decimal(5, 2)) as average
| from t_grade
| group by name
|""".stripMargin
)
// 按照指定格式输出平均成绩
println()
avg.foreach(row => println(row(0) + ": " + row(1)))
// 关闭Spark会话
spark.close()
}
// 定义成绩样例类
case class Grade(name: String, score: Int)
}
(五)运行程序



