cuda cudnn cudatoolkit 区别

### CUDA、cuDNN 和 Cuda Toolkit 的区别与关系

#### CUDA
CUDA 是一种并行计算平台和应用程序接口（API），由 NVIDIA 开发。它允许软件开发者通过使用图形处理单元（GPU）来执行通用计算任务。CUDA 提供了一套完整的开发环境，包括编译器、库以及调试和优化工具[^1]。

#### cuDNN
cuDNN (CUDA Deep Neural Network library) 是专为深度学习设计的一个高性能库。此库提供了针对神经网络常用原语的高度优化实现，比如卷积、池化等操作。这些功能被广泛应用于各种框架之中，如 TensorFlow 或 PyTorch 中，从而加速训练过程中的矩阵运算速度。值得注意的是，cuDNN 需要依赖于底层的 CUDA 平台才能工作正常。

#### Cuda Toolkit
Cuda Toolkit 实际上就是指代整个 CUDA 工具集本身，在 Ubuntu 上安装时通常会被放置在 `/usr/local/cuda` 或者带有版本号的目录下（例如 `cuda-11.0`）。这个工具包包含了上述提到的所有必要组件——即 CUDA 编程模型的支持文件、驱动程序以及其他辅助资源；同时也可能包含一些示例项目帮助初学者快速入门 GPU 编程。

综上所述，三者的层次结构可以理解为：Cuda Toolkit 包含了 CUDA 这一核心编程架构及其相关联的各种实用工具和服务；而 cuDNN 则是在此基础上进一步扩展出来的专门用于提升特定领域性能表现的应用级 API。

# 查看已安装的 CUDA 版本
nvcc --version