栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

flink旁路输出

flink旁路输出

旁路输出在Flink中叫作SideOutput,用途类似于DataStream#split,本质上是一个数据流的切分行为,按照条件将DataStream切分为多个子数据流,子数据流叫作旁路输出数据流,每个旁路输出数据流可以有自己的下游处理逻辑

旁路输出在Flink中叫作SideOutput,用途类似于DataStream#split,本质上是一个数据流的切分行为,按照条件将DataStream切分为多个子数据流,子数据流叫作旁路输出数据流,每个旁路输出数据流可以有自己的下游处理逻辑

package com.zxl.blink;

import org.apache.flink.configuration.Configuration;
import org.apache.flink.configuration.RestOptions;
import org.apache.flink.streaming.api.datastream.DataStream;
import org.apache.flink.streaming.api.datastream.SingleOutputStreamOperator;
import org.apache.flink.streaming.api.environment.StreamExecutionEnvironment;
import org.apache.flink.streaming.api.functions.ProcessFunction;
import org.apache.flink.util.Collector;
import org.apache.flink.util.OutputTag;

public class OutPut {
    public static void main(String[] args) throws Exception {
        Configuration configuration=new Configuration();
        configuration.setInteger(RestOptions.PORT,8848);
        StreamExecutionEnvironment environment = StreamExecutionEnvironment.createLocalEnvironmentWithWebUI(configuration);
        environment.setParallelism(4);
        //split
        DataStream source = environment.addSource(new DataDB());
        // TODO: 2022/2/9 定义 旁路输出在Flink中叫作SideOutput,用途类似于DataStream#split,本质上是一个数据流的切分行为,按照条件将DataStream切分为多个子数据流,子数据流叫作旁路输出数据流,每个旁路输出数据流可以有自己的下游处理逻辑
        //当使用旁路输出的时候,首先需要定义OutputTag,OutputTag是每一个下游分支的标识
        OutputTag  hight=new OutputTag("hight"){};
        OutputTag  low=new OutputTag("low"){};
        SingleOutputStreamOperator process = source.process(new ProcessFunction() {
            @Override
            public void processElement(Person person, Context ctx, Collector out) throws Exception {
                if (person.getPage() < 14) {
                    ctx.output(low, person);
                } else if (person.getPage() > 14 && person.getPage() < 18) {
                    ctx.output(hight, person);
                } else {
                    out.collect(person);
                }
            }
        });
        process.getSideOutput(low).print("小于14岁");
        process.getSideOutput(hight).print("大于14岁外成年");
        process.print("成年");
        environment.execute();
    }
}
转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/735836.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号