cuDNN版本需与已安装的NVIDIA Tesla驱动、CUDA版本相互适配,建议参考Tesla驱动及相关组件版本兼容指南选择合适版本。
前提条件
已成功安装适配版本的NVIDIA Tesla驱动及CUDA工具包,且驱动与CUDA版本相互兼容。
在Linux操作系统中安装cuDNN
下载cuDNN
在安装开始之前建议根据Tesla驱动及相关组件版本兼容指南选择合适的cuDNN版本。
获取cuDNN安装包下载链接。本章以cuDNN9.2.0、cuda 12.8.1版本为例。访问cuDNN下载官网,选择与已安装CUDA版本匹配的cuDNN版本,操作系统选择Linux,架构选择x86_64,安装包类型为Tarball,CUDA版本为12,复制下载链接。
输入如下命令下载cuDNN安装包。
wget https://developer.download.nvidia.com/compute/cudnn/redist/cudnn/linux-x86_64/cudnn-linux-x86_64-9.2.0.82_cuda12-archive.tar.xz
安装cuDNN
解压 cuDNN包
tar -xvf cudnn-linux-x86_64-9.2.0.82_cuda12-archive.tar.xz复制头文件、库文件到CUDA目录
# 复制cuDNN头文件到CUDA头文件目录 sudo cp cudnn-linux-x86_64-9.2.0.82_cuda12-archive/include/cudnn*.h /usr/local/cuda/include/ # 复制cuDNN库文件到CUDA库目录 sudo cp -P cudnn-linux-x86_64-9.2.0.82_cuda12-archive/lib/libcudnn* /usr/local/cuda/lib64/赋予文件权限
sudo chmod a+r /usr/local/cuda/include/cudnn*.h /usr/local/cuda/lib64/libcudnn*更新系统库缓存
sudo ldconfig验证安装是否成功
查看cuDNN版本信息。
cat /usr/local/cuda/include/cudnn_version.h |grep CUDNN_MAJOR -A 2预期输出结果为:
#define CUDNN_MAJOR 9 #define CUDNN_MINOR 2 #define CUDNN_PATCHLEVEL 0
在Windows操作系统中安装cuDNN
下载cuDNN
在安装开始之前建议根据Tesla驱动及相关组件版本兼容指南选择合适的cuDNN版本。
获取cuDNN安装包下载链接。本章以Windows Server 2016 x86_64系统、CUDA 11.4.0版本、cuDNN8.8.1版本为例进行安装。访问cuDNN下载官网,选择符合要求的cuDNN版本,点击下载。
安装cuDNN
解压cuDNN安装包,解压后会得到3个核心文件夹:bin、include、lib。
复制文件到CUDA目录。
打开解压后的bin文件夹,全选所有文件,复制到CUDA的bin目录。
打开include文件夹,全选所有文件,复制到CUDA的include目录。
打开lib\x64文件夹,全选所有文件,复制到CUDA的lib\x64目录。
验证安装结果
以管理员身份打开命令提示符,执行以下命令查看cuDNN版本:
type "C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.4\include\cudnn_version.h" | findstr "CUDNN_MAJOR CUDNN_MINOR CUDNN_PATCHLEVEL"输出以下内容,说明安装成功。