加入实验室后师兄安排了一些工作,要在Linux云服务器上跑一下预训练模型(如Bert、T5),忙活了差不多一个上午才将基本的环境配好,果然环境配置才是最痛苦的! 担心以后还要配置,避免再遭受一次痛苦,特此记录,留作备忘。
Xshell 是一个强大的安全终端模拟软件,它支持SSH1, SSH2, 以及Microsoft Windows 平台的TELNET 协议。Xshell 通过互联网到远程主机的安全连接以及它创新性的设计和特色帮助用户在复杂的网络环境中享受他们的工作。
Xshell可以在Windows界面下用来访问远端不同系统下的服务器,从而比较好的达到远程控制终端的目的。
Xftp是一个软件应用程序,可以帮助您通过网络传输文件。 尽管它是为工作在Windows系统上而设计的,用户还可以安全地传输文件到使用Unix /Linux系统的主机。 它还支持SFTP协议,因此所有通过该软件的网络流量都是加密的。
这两个软件是收费的,但可以下载免费的学生版,用来连接远程服务器和传输文件。具体安装和连接步骤在此不多做赘述,网上都有教程,十分简单。(连接后可以使用PING 远程服务器IP地址:端口号命令确保是否连上)
在官网或清华镜像园下载Anaconda的Linux安装包:
- Anaconda官网
- 清华镜像园
使用Xftps将安装包传到远程服务器安装:
安装命令:bash filename(filename形如Anaconda3-2019.07-Linux-x86_64.sh)
安装完之后需要重新连接服务器,然后使用如下命令查看anaconda是否安装成功:anaconda --version
可以在命令行输入python查看下python安装的版本情况(后面要用到),因为安装anaconda的时候它会自动帮我们安装好对应版本的python, 退出用exit()
anaconda安装后就有一个base环境的,我们单独为pytorch开一个环境:
conda create -n your_env_name python=X.X
其中your_env_name为自己的环境名,后面的python输入自己的python版本号。
安装pytorch:
我们使用清华镜像园的pytorch进行安装而非官方的
首先我们进入我们在第2步创建的anaconda环境:
conda activate your_env_name
(这里附上某位大佬写的Anaconda环境配置常用命令)
在命令行中依次输入以下命令并执行:
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/ conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/msys2/ conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/ # 设置搜索时显示通道地址 conda config --set show_channel_urls yes
使用清华镜像源进行Pytorch的安装时,官方给出的安装命令是失效的,因次使用如下命令:
conda install pytorch torchvision cudatoolkit=10.1
如果嫌上面的命令麻烦的话,也可以使用shell脚本一键安装。具体操作步骤就是在任意目录下创建一个.sh文件,文件中输入上面的安装指令并保存,然后在命令行执行文件即可:bash pytorch_install.sh
要检查pytorch是否安装成功,可以输入如下命令:
conda list
上面这条命令会打印出已经安装的包,看下列表中是否有pytorch即可。
我安装了scipy、scikit-learn、transformers和simpletransformers,其实安装方法大同小异,对应模块的官方文档也有安装教程,其他模块差不多也是这样安装:
# 安装scipy pip install scipy # 安装scikit-learn pip install scikit-learn # 安装transformers,如果不行就用pip install transformers conda install -c huggingface transformers # 安装simpletransformers pip install simpletransformers
安装前面三个模块的时候都很正常,但是安装到simpletransformers的时候就报错了:
ERROR: Cannot uninstall 'certifi'. It is a distutils installed project and thus we cannot accurately determine which files belong to it which would lead to only a partial uninstall. WARNING: You are using pip version 21.0.1; however, version 21.3 is available. You should consider upgrading via the '/home/cike/anaconda3/envs/Amer/bin/python -m pip install --upgrade pip' command.
在网上搜了一下,大部分解决方案是使用pip install pip==9.0.1后再执行模块的安装指令——然鹅并不行。
最终的解决方案如下:
# 当pip install xxx时,遇到上面ERROR: Cannot uninstall 'certifi' # 类似的问题时,输入下面这条安装命令即可 pip install xxx --ignore-installed
安装完之后再次输入conda list,查看列表中是否出现了之前安装的模块,检查是否安装成功。
或者输入python,导入相关模块,判断是否会报错,比如:
>>> from simpletransformers.seq2seq import(Seq2SeqModel,Seq2SeqArgs,) >>>
撒花~~~
创作不易,有帮助的话点个赞吖亲



