去官网下载cuda.deb 文件

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/cuda-ubuntu2004.pin
sudo mv cuda-ubuntu2004.pin /etc/apt/preferences.d/cuda-repository-pin-600
wget https://developer.download.nvidia.com/compute/cuda/11.4.4/local_installers/cuda-repo-ubuntu2004-11-4-local_11.4.4-470.82.01-1_amd64.deb
sudo dpkg -i cuda-repo-ubuntu2004-11-4-local_11.4.4-470.82.01-1_amd64.deb
sudo apt-key add /var/cuda-repo-ubuntu2004-11-4-local/7fa2af80.pub
sudo apt-get update
sudo apt-get -y install cuda

最后nvcc -V查看cuda 版本

主要就是有两个版本，所以需要卸载一个

发现版本不相符，卸载之前安装的 nvidia-cuda-toolkit（之前nvcc是提示安装 nvidia-cuda-toolkit）

sudo apt-get autoremove nvidia-cuda-toolkit

发现有nvcc可执行文件

再export PATH=$PATH:/usr/local/cuda/bin

再nvcc --version 发现安装的cuda11.4