本文参考https://medium.com/@exesse/cuda-10-1-installation-on-ubuntu-18-04-lts-d04f89287130

Step1 查看CUDA版本

nvcc -V

使用上述命令即可查看cuda版本：

本人的结果如上所示，所用cuda版本为9.1

nvidia-smi

使用上述命令可得到：
如上图所示，也有一个CUDA版本为11.4，但是注意，这里的CUDA版本是你的driver所支持的CUDA版本，而不是你用于运行，编译的cuda版本。

Step2 CUDA版本切换：

1.先清除之前的CUDA版本文件

sudo rm /etc/apt/sources.list.d/cuda*
sudo apt remove --autoremove nvidia-cuda-toolkit
sudo apt remove --autoremove nvidia-*

2. 设置CUDA PPA

sudo apt update
sudo add-apt-repository ppa:graphics-drivers
sudo apt-key adv --fetch-keys  http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub
sudo bash -c 'echo "deb http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64 /" > /etc/apt/sources.list.d/cuda.list'
sudo bash -c 'echo "deb http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64 /" > /etc/apt/sources.list.d/cuda_learn.list'

3. 安装CUDA安装包

sudo apt update
sudo apt install cuda-10-1
sudo apt install libcudnn7

4. 在~/.profile中确定CUDA路径

bash sudo vi ~/.profile
将下面命令加入文件末尾：

# set PATH for cuda 10.1 installation
if [ -d "/usr/local/cuda-10.1/bin/" ]; then
    export PATH=/usr/local/cuda-10.1/bin${PATH:+:${PATH}}
    export LD_LIBRARY_PATH=/usr/local/cuda-10.1/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
fi

5. 重启确定CUDA版本

CUDA:

nvcc  – version

nvcc: NVIDIA ® Cuda compiler driver
Copyright © 2005-2019 NVIDIA Corporation
Built on Wed_Apr_24_19:10:27_PDT_2019
Cuda compilation tools, release 10.1, V10.1.168

NVIDIA Driver:

nvidia-smi

libcudnn:

/sbin/ldconfig -N -v $(sed ‘s/:/ /’ <<< $LD_LIBRARY_PATH) 2>/dev/null | grep libcudnn

Step3 CUDA安装包

若上述命令有报错，导致无法安装，建议使用安装包(.run文件)进行安装，想要获取可以在评论区留下邮箱。