栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

spark(三)------spark pi任务提交

spark(三)------spark pi任务提交

1.输出1到100的数字中x,y轴的和在单位圆中的点,并统计个数

object sparkPi {
  def main(args: Array[String]): Unit = {
    val conf: SparkConf = new SparkConf()
    conf.setAppName("sparkPi")
    conf.setMaster("local")
    val context: SparkContext = new SparkContext(conf)
    val value: RDD[Int] = context.parallelize(1 to 100)
    val value1: RDD[Int] = value.map(one => {
      var x = random() * 2 - 1
      var y = random() * 2 - 1
      if (x * x + y * y <= 1) 1 else 0
    })
    val count: Int = value1.reduce((v1, v2) => v1 + v2)
    println(count)
  }
}

2.
程序写完进行打包,上传到Master节点虚拟机上,打包之前需要clear把target清空然后把master删除,然后package
在虚拟机终端spark-3.0.0/bin,
spark-submit–master spark://hadoop102:7077 --class 包名+类名 打包的程序路径

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/439171.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号