栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

4、Flink里的UDF函数

4、Flink里的UDF函数

Flink里的UDF函数

一、函数类(Function Classes)二、富函数(Rich Functions)

一、函数类(Function Classes)

Flink暴露了所有udf函数的接口(实现方式为接口或者抽象类)。例如使用Map要实现MapFunction,使用Filter要实现FilterFunction,使用Process要实现ProcessFunction等等。
以Filter为例:

	//方式一,自定义外部类实现FilterFunction
    DataStream filterResult = stringDataStream.filter(new MyFilter());
	public static class MyFilter implements FilterFunction{
	
	    @Override
	    public boolean filter(String s) throws Exception {
	        return s.contains("flink");
	    }
    }


	//方式二,定义成匿名内部类
    DataStream filterResult = stringDataStream.filter(new FilterFunction() {
        @Override
        public boolean filter(String s) throws Exception {
            return s.contains("flink");
        }
    });


    //方式三,定义成lambada表达式
    DataStream filterResult = stringDataStream.filter(data->data.contains("flink"));

上面三种方式都可以实现FilterFunction,但是只能进行固定的判断,如果想传入参数到类中,需要用以下的方式:

    //实现接口并传递参数
    DataStream filterResult = stringDataStream.filter(new MyFilter("flink"));

	public static class MyFilter implements FilterFunction{

        private String keyword;

        MyFilter(String keyword){
            this.keyword=keyword;
        }

        @Override
        public boolean filter(String s) throws Exception {
            return s.contains(this.keyword);
        }
    }
二、富函数(Rich Functions)

“富函数”是DataStream API提供的一个函数类的接口,所有Flink函数类都有其Rich版本。它与常规函数的不同在于,可以获取运行环境的上下文,并拥有一些生命周期方法,所以可以实现更复杂的功能。
例如:
1)RichMapFunction
2)RichFlatMapFunction
3)RichFilterFunction

Rich Function有一个生命周期的概念。典型的生命周期方法有:
open()方法是rich function的初始化方法,当一个算子例如map或者filter被调用之前opne()会被调用,可以做初始化工作。
close()方法是生命周期中最后一个调用的方法,做一些清理工作。
getRuntimeContext()方法提供了函数的RuntimeContext的一些信息,例如函数执行的并行度,任务的名字,以及state状态。
之前使用那些算子实现的只是最基础的函数,并没有实现富函数,所以上面三个方法都没办法使用。
以Map方法为例:

    DataStream> result = mapResult.map(new RichMapFunction>() {
        @Override
        public Tuple2 map(SensorReading sensorReading) throws Exception {
            return new Tuple2<>(getRuntimeContext().getIndexOfThisSubtask(), sensorReading.getId());
        }

        @Override
        public void open(Configuration parameters) throws Exception {
            System.out.println("my map open!!!");
        }

        @Override
        public void close() throws Exception {
            System.out.println("my map close!!!");
        }
    });

    result.print();
    env.execute();

执行结果:

设置了并行度为几,就有几个分区,每个分区都有一个类的实例。

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/760926.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号