栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

Spark Transformation算子->groupByKey

Spark Transformation算子->groupByKey

作用在 K,V 格式的 RDD 上。根据 Key 进行分组。作用在(K,V),返回(K, Iterable )。

  1. java
package transformations;

import org.apache.spark.SparkConf;
import org.apache.spark.api.java.JavaSparkContext;
import scala.Tuple2;

import java.util.Arrays;


public class GroupByKeyTest {
    public static void main(String[] args) {
        JavaSparkContext context = new JavaSparkContext(
                new SparkConf()
                        .setMaster("local")
                        .setAppName("groupbykey")
        );
        context.setLogLevel("Error");
        context.parallelizePairs(Arrays.asList(
                new Tuple2("科比",24),
                new Tuple2("科比",23),
                new Tuple2("威斯布鲁克",0),
                new Tuple2("保罗",3),
                new Tuple2("保罗",12)
        )).groupByKey().foreach(e-> System.out.println(e));
    }
}

  1. scala
package transformation

import org.apache.spark.{SparkConf, SparkContext}


object GroupByKeyTest {
  def main(args: Array[String]): Unit = {
    val context = new SparkContext(
      new SparkConf()
        .setAppName("groupbykey")
        .setMaster("local")
    )
    context.setLogLevel("Error")
    context.parallelize(Array[(String,Int)](
      ("科比",24),
      ("科比", 23),
      ("威斯布鲁克", 0),
      ("保罗", 3),
      ("保罗", 12)
    )).groupByKey().foreach(println)
  }
}

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/653910.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号