栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Java

UDF函数和UDTF函数的图解举例

Java 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

UDF函数和UDTF函数的图解举例

简述UDF/UDAF/UDTF是什么,各自解决问题及应用场景 - 玩转大数据 - 博客园

自定义UDF和UDTF函数的两个作用点:

1.埋点log打印日志,方便任务出现问题后进行调试

2.有一些SQL解决不了的问题,可以通过java代码实现UDFUDTF函数来辅助解决

  • UDF

  • 实现步骤(Java创建自定义UDF类)

    • 自定义一个java类
    • 继承UDF类
    • 重写evaluate方法
    • 打包类所在项目成一个all-in-one的jar包并上传到hive所在机器
    • 在hive中执行add jar操作,将jar加载到classpath中。
    • 在hive中创建模板函数,使得后边可以使用该函数名称调用实际的udf函数
    • hive sql中像调用系统函数一样使用udf函数

UDTF

实现步骤

  • 自定义一个java类
  • 继承UDAF类
  • 内部定义一个静态类,实现UDAFEvaluator接口
  • 实现方法init,iterate,terminatePartial,merge,terminate,共5个方法. 详见下图
  • 在hive中执行add jar操作,将jar加载到classpath中。
  • 在hive中创建模板函数,使得后边可以使用该函数名称调用实际的udf函数
  • hive sql中像调用系统函数一样使用udaf函数

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/1007415.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号