一、cuda10.1与cuda9.0版本的切换

1、首先将cuda10.1和cuda9.0版本各自安装好

2、添加环境变量

在 ~/.bashrc 中添加的环境变量如下：

export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64${LD_LIBRARY_PATH:+:$LD_LIBRARY_PATH}

3、实现切换操作

其实实现版本切换就是将cuda-8.0或者cuda-9.0软链接到cuda上。
9.0切到8.0 时：

再切换回去 ：

二、cudnn7.6.0和cudnn7.3.1版本的切换

cudnn7.6.0对应上面的cuda10.1版本，cudnn7.3.1版本对应上面的cuda9.0版本。

1、下载对应的cudnn版本

可用如下指令先查看自己已安装的cudnn版本：

cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2

去官网下载需要的cudnn，注意要与自己的cuda版本以及平台相对应，我下载的是linux平台的对应cuda9.0的7.3.1版本的cudnn，下载文件为 .tar压缩包即可。

cudnn 官网网址：https://developer.nvidia.com/rdp/cudnn-archive

下载完后，拷贝到自己服务器上，并解压。

2、 删除原来版本

sudo rm -rf /usr/local/cuda/include/cudnn.h
sudo rm -rf /usr/local/cuda/lib64/libcudnn*

3、 复制新版本

在解压后的文件夹（解压后的文件名一般是cuda）中，找到include和lib64文件夹，将里边的文件拷贝到cuda目录中。

sudo cp include/cudnn.h /usr/local/cuda/include/
sudo cp lib64/lib* /usr/local/cuda/lib64/

4、 建立软连接

替换完成后，建立新版本cudnn的软链接，注意要与自己版本的链接一致

cd /usr/local/cuda/lib64/
sudo chmod +r libcudnn.so.7.3.1
sudo ln -sf libcudnn.so.7.3.1 libcudnn.so.7
sudo ln -sf libcudnn.so.7 libcudnn.so   
sudo ldconfig    

至此完成了cudnn的更换

更换完成后可查看cudnn版本，如下图片显示的是cudnn7.3.1版本：

cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2