nvidia-smi 和cuda

### Nvidia-SMI 和 CUDA 的关系

NVIDIA 提供了 `nvidia-smi` 工具来管理和监控 GPU 设备及其性能。此工具可以查询有关 GPU 资源的信息，包括但不限于显存使用情况、温度和其他硬件状态指标。需要注意的是，`nvidia-smi` 所展示的支持 CUDA 版本范围是指驱动程序能够兼容的 CUDA 版本区间，并不直接反映实际安装并正在使用的 CUDA Toolkit 版本[^1]。

对于开发者而言，理解两者之间的区别非常重要。当提到 CUDA 时，通常指的是 NVIDIA 推出的一套用于编写可以在其图形处理单元上执行的应用程序接口（API）。而 `nvidia-smi` 则主要用于管理这些设备的状态和配置参数。

### 如何查看系统中的所有 GPU 资源

为了获取系统内可用 GPU 的列表，可以通过运行如下命令：

nvidia-smi -L

这将会返回每一块 GPU 的型号名称以及唯一识别码(UUID)，例如:

GPU 0: NVIDIA A10 (UUID: GPU-4e2a7543-0127-59f7-0909-db857a596745)

上述输出表明该机器配备了一张编号为 0 的 NVIDIA A10 显卡[^2]。

### 配置与教程

要确保应用程序能正确利用特定版本的 CUDA 进行计算工作负载分配给 GPU，除了确认操作系统已安装适当版本的 NVIDIA 驱动外，还需要单独下载对应版本的 CUDA Toolkit 并设置环境变量以便编译器能找到必要的头文件库路径等信息。然而，在大多数情况下，只要保证所选 CUDA 版本位于当前驱动支持范围内即可正常运作。

一旦完成了软件层面的基础准备工作之后，就可以通过调用 CUDA API 或者借助高层次框架如 TensorFlow/PyTorch 来开发基于 GPU 加速的数据密集型应用逻辑了；与此同时，依旧可以用 `nvidia-smi` 实时跟踪资源消耗状况以优化性能表现。