栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

spark struct 排序测试 的确按照字段先后顺序依次比较

spark struct 排序测试 的确按照字段先后顺序依次比较

测试代码
struct排序规则: 按照字段从前到后. 

object Demo1 {
    def main(args: Array[String]): Unit = {
        val spark = SparkSession.builder()
            .master("local[*]")
            .appName(this.getClass.getName)
            .config("spark.ui.port","30101")
            .getOrCreate()
        val sc = spark.sparkContext
        spark.sparkContext.setLogLevel("ERROR")
        // For implicit conversions like converting RDDs to Dataframes
        import org.apache.spark.sql.functions._
        import spark.implicits._

        val ds = Seq(
            C(1, 2)
            , C(8, 20)
            , C(8, 2)
            , C(8, 3)
            , C(4, 1)
            , C(6, 20)
            , C(110, 2)
        ).toDS()
        ds.select(struct('c1,'c2).alias("stt")).orderBy('stt).show()
        spark.stop()
    }
    case class C(c1: Int, c2: Int)
}

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/774822.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号