深度学习环境搭建：Windows10安装cuDNN

上一节深度学习环境搭建：Pytorch与CUDA的安装我们讲到如何在Windows 10中安装pytorch以及与之对应版本的CUDA。安装完CUDA后Pytorch只是能使用GPU，但是真正利用GPU进行深度学习模型的搭建以及卷积计算的时候还需要安装cuDNN。下载对应的cuDNN。
这里需要注意的是在下载前需要我们先注册账号，填写对应信息，然后打开页面选择对应CUDA版本的cuDNN。
根据上一节我这里装的CUDA 11.3版本，我这里选用cuDNN 8.2.1对应cuda 11.X版本。（当然你也可以选用最新的8.4.0版本）
下载完成后，解压里边有3个文件夹bin``include和lib，有两种安装方法。
**方法一：**适合只安装一个版本的cuDNN
分别将cuDNN中这三个文件夹分别复制到CUDA对应的bin``include和lib文件夹中。
我这里安装CUDA的时候没有使用默认路径，当时修改为：D:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.3\
配置：

1. 复制 cuDNN bin 目录下的文件到 CUDA 的 bin 目录下（.dll）
2. 复制 cuDNN include 目录下的文件到 CUDA 的 include 目录下（.h）
3. 复制 cuDNN lib/x64 目录下的文件到 CUDA 的 lib/x64 目录下（.lib）
4. 添加一个环境变量
   

方法二： NVIDA安装教程中的
在CUDA安装目录下新建一个CUDNN文件夹，然后将将解压完的整个cuDNN文件复制到CUDNN目录中，将其文件地址添加到环境变量中。

验证是否安装成功：因为cuDNN只是将文件复制到CUDA对应文件夹中，并没有像安装可执行文件那样一通安装，所以想要验证有没有设置成功。这里查了网上很多文章都是讲如何安装，验证部分都是用CUDA中的两个程序deviceQuery.exe和bandwidthTest.exe，可是我没复制cuDNN文件的时候好像运行也没啥问题啊。然后在NVIDIA社区倒是有人说了在Linux中安装使用的时候通过验证cuDNN版本以及带的示例来验证是否安装成功。
通过NVIDIA提供的deviceQuery.exe和bandwidthTest.exe来查看GPU的状态，这两个执行文件均在CUDA安装目录下的D:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.3\extras\demo_suite，打开对应文件路径下在文件路径中直接输入cmd在当前路径下打开命令行窗口，输入上述两个可执行文件名称。
最后这里说一下使用deviceQuery.exe和bandwidthTest.exe验证的还是CUDA是否配置成功。

参考：
NVIDIA cuDNN安装
windows 验证CUDA和CUDNN是否安装成功
how do I check If I install CUDA and CUDNN successfully?