栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Python

创建本地集群的一些坑

Python 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

创建本地集群的一些坑

坑1

bin/workloads/micro/wordcount/prepare/prepare.sh

报错
patching args=
/usr/bin/env: ‘python2’: No such file or directory
/home/wk/sd_hibench/spark/spark-rl-test/hibench/bin/functions/workload_functions.sh: line 38: .: filename argument required
.: usage: . filename [arguments]
start HadoopPrepareWordcount bench
bin/workloads/micro/wordcount/prepare/prepare.sh: line 26: INPUT_HDFS: unbound variable

HIBENCH依赖python2.x,需要安装一下

apt-get install python2

坑2
yarn的nodemanager没法启动,集群没有active node
查看hadoop/log日志,发现没有shuffle的jar包
把spark/yarn/的shuffle包拷到hadoop/share/hadoop/yarn/lib中即可

坑3
远程连接ubuntu黑屏,需要把ubuntu的用户注销,才可以登录进去。

坑4
远程连接ubuntu,pycharm打不开,报错

Can't connect to X11 window server using XX as the value of the DISPLAY

当时用的是root,后来换成自己用户就可以了

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/499083.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号