一、安装显卡驱动

 参考另一篇文章：Ubuntu20.04安装Nvidia显卡驱动教程_ytusdc的博客-CSDN博客

二、安装CUDA

英伟达官网（最新版）：CUDA Toolkit 12.2 Update 1 Downloads | NVIDIA Developer

CUDA历史版本下载地址：CUDA Toolkit Archive | NVIDIA Developer

这里是nvidia给出的官方安装指南（遇到问题时可以查阅）：

NVIDIA CUDA Installation Guide for Linux

cuda 和 显卡驱动版本对应关系：

CUDA 12.6 Update 2 Release Notes

2.1、选择 runfile 按照官网提示的输入到终端中的代码执行安装：

 2.2、安装过程选项选择 Continue

 gcc，如果报错直接安装gcc和g++就好。

sudo apt-get install gcc
sudo apt-get install g++

2.3、之后就继续，输入accept。

 2.4、之后就继续，把第一个选择驱动，给他回车取消，因为我们已经有驱动了。

2.5、在.bashrc里配置环境变量

然后就直接install。等待片刻后，会安装完成，然后在.bashrc里配置环境变量。

sudo gedit ~/.bashrc

 在打开文件的最后一行加上：

export PATH=$PATH:/usr/local/cuda/bin  
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/lib64  
export LIBRARY_PATH=$LIBRARY_PATH:/usr/local/cuda/lib64

然后 

source ~/.bashrc

2.6、查看是否安装成

执行命令nvcc --version （或nvcc -V）， 可以看到安装OK了。

三、安装CUDNN

下载cudnn相应版本.
最新版下载地址：Log in | NVIDIA Developer
cudnn历史版本: cuDNN Archive | NVIDIA Developer

官方安装指南: Installation Guide - NVIDIA Docs

下载 CUDA 对应的cudnn 版本

 3.1、下载 Deb 版本进行安装

下载完后是一个Deb类型的文件，需要对其进行解压

sudo dpkg -i cudnn*.deb

3.2、解压完后会有提示，根据提示把CUDA GPG Key导入

  根据指令写

sudo cp /var/cudnn-local-repo-ubuntu2004-8.5.0.96/cudnn-local-0579404E-keyring.gpg /usr/share/keyrings/

注意！！！网上大部分包括官网教程都会让你下载3个包，但其实已经out了，最新的版本中解压过后，这3个包已经在 /var 中了，进入cudnn包中可以看到这3个Deb包，只需要依次进行解压即可

 3.3、Refresh the repository metadata.（必须，否则后面的命令无法使用）

sudo apt-get update

3.4、Install the runtime library.

sudo apt-get install libcudnn8=8.x.x.x-1+cudaX.Y

3.5、Install the developer library.

sudo apt-get install libcudnn8-dev=8.x.x.x-1+cudaX.Y

3.6、Install the code samples.

sudo apt-get install libcudnn8-samples=8.x.x.x-1+cudaX.Y

再次说明x.x.x是对应下载的cudnn版本信息，X.Y是 cuda的大版本和小版本信息

上面的 X.Y and 8.x.x.x 换成 /var/cudnn-local-repo-ubuntu2004-8.9.6.50 中文件中的相应版本号后，如下

sudo apt-get install libcudnn8=8.9.6.50-1+cuda11.8
sudo apt-get install libcudnn8-dev=8.9.6.50-1+cuda11.8
sudo apt-get install libcudnn8-samples=8.9.6.50-1+cuda11.8

四、测试安装是否成功

方式1：

新的 cudnn_version.h 文件路径跟老版本不同，解决方法如下，输入下面的命令，找到真实的位置

whereis cudnn_version.h

得到如下结果：

cudnn_version: /usr/include/cudnn_version.h

然后检测：

cat /usr/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

方式2：

因为新版本的结构貌似已经变化，只需按照如下步骤即可

cp -r /usr/src/cudnn_samples_v8/ $HOME
cd  $HOME/cudnn_samples_v8/mnistCUDNN
make clean && make
./mnistCUDNN

如出现以下结果则cudnn完整安装

测试时候遇到的错误：

 如上图，是因为确实相应的库，安装相应库，再重新测试即可

sudo apt-get install libfreeimage3 libfreeimage-dev