当前位置: 代码迷 >> 综合 >> Linux安装Pytorch1.8GPU(CUDA11.1)
  详细解决方案

Linux安装Pytorch1.8GPU(CUDA11.1)

热度:14   发布时间:2023-11-18 08:49:25.0

注意,Pytorch1.8.0有些bug,建议安装1.8.1稳定版

先说下自己之前的环境(都是Linux系统,差别不大):

  • Centos7.6
  • NVIDIA Driver Version 440.33.01(等会需要更新驱动)
  • CUDA10.1
  • Pytorch1.6/1.7

提示,如果想要保留之前的PyTorch1.6或1.7的环境,请不要卸载CUDA环境,可以通过Anaconda管理不同的环境,互不影响。但是需要注意你的NVIDIA驱动版本是否匹配。
在这里能够看到官方给的对应CUDA版本所需使用驱动版本。

cuda-driver通过上表可以发现,如果要使用CUDA11.1,那么需要将显卡的驱动更新至455.23或以上(Linux x86_64环境)。由于我之前的驱动版本是440.33.01,那么肯定不满足,所以需要更新下显卡的驱动。通过以下指令可以查看你电脑上的驱动版本:

nvidia-smi

如果你的驱动版本是满足的,那么可以直接跳到创建Pytorch1.8虚拟环境章节。

目录

  • 更新驱动
    • 卸载旧驱动
    • 安装新驱动
  • 创建PyTorch1.8虚拟环境
  • 安装PyTorch1.8
    • 在线安装
    • 离线安装
    • 通过docker安装


更新驱动

卸载旧驱动

我之前安装的是NVIDIA-440的版本,找到之前下载的安装程序,然后打开终端通过以下指令进行卸载:

sh ./NVIDIA-Linux-x86_64-440.33.01.run --uninstall

安装新驱动

1)下载驱动,直接去NVIDIA官网下载:https://www.nvidia.cn/Download/index.aspx?lang=cn

driver

根据你的GPU型号以及操作信息选择对应的驱动,注意CUDA Toolkit11版的当前可选的只有11.0和11.2,而我们要装的是11.1所以选择11.2即可。


2)关闭Xserver服务 (如果没有安装桌面系统可以跳过)
我的桌面系统是gdm(GNOME Display Manager)类型的,通过systemctl可以看到:

systemctl status gdm.service

显示结果:

● gdm.service - GNOME Display ManagerLoaded: loaded (/usr/lib/systemd/system/gdm.service; enabled; vendor preset: enabled)Active: active (running) since Fri 2021-01-22 09:27:06 CST; 1 months 22 days agoProcess: 32347 ExecStartPost=/bin/bash -c TERM=linux /usr/bin/clear > /dev/tty1 (code=exited, status=0/SUCCESS)Main PID: 32344 (gdm)Tasks: 22CGroup: /system.slice/gdm.service├─32344 /usr/sbin/gdm└─32357 /usr/bin/X :0 -background none -noreset -audit 4 -verbose -auth /run/gdm/auth-for-gdm-mBzawN/databa...Jan 22 09:27:06 localhost.localdomain systemd[1]: Starting GNOME Display Manager...
Jan 22 09:27:06 localhost.localdomain systemd[1]: Started GNOME Display Manager.

关闭gdm服务:

systemctl stop gdm.service

注意,如果还开启了类似VNC远程桌面的服务也要记得关闭。


3)安装新版本驱动

sh ./NVIDIA-Linux-x86_64-460.32.03.run 

4)检查nvidia服务
通过以下指令能够看到当前主机上的nvidia驱动版本以及所有可用GPU设备信息。

nvidia-smi

5)再次开启桌面服务、VNC等
如果不是gdm或者不使用桌面环境可以跳过此步骤

systemctl start gdm.service

创建PyTorch1.8虚拟环境

为了不同版本之间的环境互相隔离,强烈建议使用Anaconda的虚拟环境。其实使用起来也非常简单:

  • 创建虚拟环境,这里我创建了一个名为torch18的虚拟环境,并且创建python3.8的编译环境。
conda create -n torch18 python=3.8
  • 安装完成后,激活虚拟环境
conda activate torch18
  • 接着安装点常用的包,这里直接通过requirements.txt批量安装(不需要可以跳过)
pip install -r requirements.txt

requirements.txt文件里可以是你常用的一些包,例如:

numpy==1.17.0
matplotlib==3.2.1
lxml==4.6.2
tqdm==4.42.1
  • 如果需要退出虚拟环境,执行以下指令即可:
conda deactivate

安装PyTorch1.8

在线安装

进入PyTorch官网:https://pytorch.org/

pytorch

我们通过选择自己的系统类型、安装方式以及CUDA的版本可以得到对应的安装指令。官方默认会顺带安装torchvision和torchaudio但我只需要torchvision所以通过以下指令安装 (注意,要进入对应的虚拟环境安装,例如上面的torch18环境)

pip install torch==1.8.1+cu111 torchvision==0.9.1+cu111  -f https://download.pytorch.org/whl/torch_stable.html

安装完成后就可以使用了,不需要在单独安装CUDA,并且不会影响之前安装的CUDA版本。

下面进行简单的测试:

  • 首先在终端输入python进入python环境:
pyhton
  • 然后导入torch包,查看cuda是否可用:
import torch
torch.cuda.is_available()

如果打印的是True表示成功

cuda


离线安装

有些时候,可能你的设备无法连接外网,此时需要提前准备好需要安装的whl文件,那么我们这里就以torchtorchvision为例(注意安装torch前需要提前安装好numpy包)。刚刚我们在线安装时发现安装指令最后有个网址,https://download.pytorch.org/whl/torch_stable.html,没错就是官方存放所有的安装包,所以我们可以直接去那里下载。

torch1.8.1
torchvision0.9.1

我们在这里可以找到我们需要的torch-1.8.1+cu111-cp38-cp38-linux_x86_64.whl以及torchvision-0.9.1+cu111-cp38-cp38-linux_x86_64.whl两个文件即可。注意,cu111代表CUDA11.1,cp38表示python3.8的编译环境,linux_x86_64表示x86的平台64位操作系统。下载完成后,我们将这两个文件传入你的离线主机(服务器)中。接着在保存这两个文件夹的目录下打开终端:

  • 进入对应虚拟环境
conda activate torch18
  • 安装torch
pip install torch-1.8.1+cu111-cp38-cp38-linux_x86_64.whl
  • 安装torchvison
pip install torchvision-0.9.1+cu111-cp38-cp38-linux_x86_64.whl

安装完成后进行简单的测试:

  • 首先在终端输入python进入python环境:
pyhton
  • 然后导入torch包,查看cuda是否可用:
import torch
torch.cuda.is_available()

如果打印的是True表示成功

cuda


通过docker安装

在有些情况下是需要使用docker来跑深度学习环境的(现在很多大公司都是使用paas平台来部署的)。那么我们就需要使用pytorch官方的docker镜像了。我们可以在docker hub上去搜索相关镜像,https://registry.hub.docker.com/。下图是我搜索的pytorch字段的结果(点击Tags后)。

docker

我们可以看到当前最新的docker 镜像有pytorch/pytorch:1.8.1-cuda11.1-cudnn8-develpytorch/pytorch:1.8.1-cuda11.1-cudnn8-runtime,对于普通开发者下载pytorch/pytorch:1.8.1-cuda11.1-cudnn8-runtime就行了。关于安装docker的过程这里不赘述。

1)我们直接通过以下指令就能pull这个镜像了

docker pull pytorch/pytorch:1.8.1-cuda11.1-cudnn8-runtime

2)注意,在启动镜像前需要确保已安装NVIDIA Container Toolkit,否则会报错(若已安装可直接跳过此步骤):

docker: Error response from daemon: could not select device driver "" with capabilities: [[gpu]].

安装NVIDIA Container Toolkit,参考官方文档:https://github.com/NVIDIA/nvidia-docker
这里以Centos7为例:

  • 首先根据你的系统类型以及版本下载对应.repo文件到/etc/yum.repos.d
distribution=$(. /etc/os-release;echo $ID$VERSION_ID) \&& curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.repo | sudo tee /etc/yum.repos.d/nvidia-docker.repo
  • 清空yum的过期缓存数据(如果不是root用户需要加sudo)
yum clean expire-cache
  • 安装NVIDIA Container Toolkit(如果不是root用户需要加sudo)
yum install -y nvidia-docker2
  • 重启docker服务(如果不是root用户需要加sudo)
systemctl restart docker

3)通过docker启动pytorch1.8.1容器

docker run --gpus all --rm -it --ipc=host pytorch/pytorch:1.8.1-cuda11.1-cudnn8-runtime

4)进入容器后可以通过nvidia-smi看到所有的GPU设备信息

smi

5)接着进入python环境简单测试下pytorch能否正常调用GPU(打印True为成功)

import torch
torch.cuda.is_available()

test