栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

Delta Lake 事务日志实践(11)

Delta Lake 事务日志实践(11)

Delta Lake 事务日志实践

读者交流群已经开通了,有需要的可以私信进入读者交流群

前面我们介绍了Delta Lake 事务日志,具体你可以参考Delta Lake 事务日志,今天我们就借助实际操作,来看一下Delta Lake 事务日志,这里我们使用scala api 来操作

环境准备

scala 版本 2.12.10

spark 版本 3.1.2

启动命令:

spark-shell --packages io.delta:delta-core_2.12:1.0.0 --conf "spark.sql.extensions=io.delta.sql.DeltaSparkSessionExtension" --conf "spark.sql.catalog.spark_catalog=org.apache.spark.sql.delta.catalog.DeltaCatalog"

数据目录 /tmp/delta-table

写入数据 开始记录日志

目前我们的目录下没有数据

下面我们写入数据

val data = spark.range(0, 5)
data.write.format("delta").mode("o
转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/629512.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号