nvidia container runtime 安装

yum install nvidia-container-runtime

docker run -it --rm --gpus all ubuntu nvidia-smi

查看结果是否如下

如果遇到下面的错误

docker: Error response from daemon: linux runtime spec devices: could not select device driver “” with capabilities: [[gpu]].

可能是你已经安装了docker，需要修改配置、重启docker，步骤如下
（1）修改/etc/docker/daemon.json里的内容（主要是增加runtimes）：

{
    "registry-mirrors": ["https://f1z25q5p.mirror.aliyuncs.com"],
    "runtimes": {
        "nvidia": {
            "path": "nvidia-container-runtime",
            "runtimeArgs": []
        }
    }
}

（2）重启docker

sudo systemctl daemon-reload
sudo systemctl restart docker

继续验证

docker run -it --rm --gpus all ubuntu nvidia-smi -L

docker run -it --rm --gpus all ubuntu nvidia-smi  --query-gpu=index,name,uuid,serial --format=csv

已经验证完成，可以使用了