栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

flink1.13安装配置,flink on yarn

flink1.13安装配置,flink on yarn

flink1.13安装配置
  • 1 下载解压
  • 2 配置hadoop_classpath
  • 3 添加依赖 common-cli、hadoop…
  • 4 启动、测试
flink on yarn三种部署模式启动命令 per job
# flink旧版本
./bin/flink run -m yarn-cluster -yjm 1024 -ytm 1024 -yqu root.up ./examples/streaming/TopSpeedWindowing.jar

./examples/batch/WordCount.jar  
-input hdfs://mycluster/tmp/input/ 
-output hdfs://mycluster/tmp/output2

# flink1.13
./bin/flink run -t yarn-per-job -d 
-Djobmanager.memory.process.size=1024m 
-Dtaskmanager.memory.process.size=1024m 
-Dtaskmanager.numberOfTaskSlots=1 
-Dparallelism.default=1 
-Dyarn.application.name="MyFlinkApp" 
-Dyarn.application.queue=myQueue  ./examples/streaming/TopSpeedWindowing.jar
session
# 启动
./bin/yarn-session.sh --detached -Dyarn.application.queue root.xxx

# 执行任务
./bin/flink run -t yarn-session 
  -Dyarn.application.id=application_XXXX_YY 
  ./examples/streaming/TopSpeedWindowing.jar
 
 # close
 echo "stop" | ./bin/yarn-session.sh -id application_1632098537301_0003
application-mode
bin/flink run-application -t yarn-application 
-Djobmanager.memory.process.size=1024m 
-Dtaskmanager.memory.process.size=1024m 
-Dtaskmanager.numberOfTaskSlots=1 
-Dparallelism.default=1 
-Dyarn.application.name="MyFlinkApp" 
-Dyarn.application.queue=myQueue ./examples/streaming/TopSpeedWindowing.jar
转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/326231.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号