autodl如何安装新版本cuda

### 安装最新版 CUDA 的教程

在 AutoDL 环境中安装新版 CUDA 需要遵循一系列特定步骤来确保兼容性和性能优化。以下是详细的指导：

#### 创建新的 Conda 环境
为了保持环境整洁并避免冲突，建议先创建一个新的 Python 环境。

conda create -n cuda_env python=3.8
conda activate cuda_env

这一步骤可以确保所使用的 Python 版本与即将安装的 CUDA 和 PyTorch 版本相匹配[^1]。

#### 更新 conda 渠道设置
为了避免下载速度过慢的问题，在更新或安装软件包之前应该调整 `~/.condarc` 文件中的渠道优先级，选择本地源作为首选项[^4]。

channels:
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/
  - defaults

#### 下载并安装最新的 CUDA 工具包
访问 NVIDIA 官方网站获取适用于当前系统的 CUDA Toolkit 12.3 安装文件，并按照官方指南完成安装过程。对于 Linux 用户来说，通常可以通过运行 `.run` 脚本来简化此操作；而对于 Windows 或 macOS 用户，则可能需要通过图形化界面来进行安装。

#### 安装对应的 cuDNN 库
除了基本的 CUDA 外，还需要额外安装相应版本的 cuDNN 来支持深度神经网络运算加速功能。同样地，可以从 NVIDIA 开发者资源页面找到适合 CUDA 12.3 的 cuDNN SDK 并依照说明文档执行安装。

#### 测试安装成果
最后验证一切正常工作的方法之一就是尝试加载 PyTorch 中的一个简单模型到 GPU 上面去跑一遍看看是否有任何错误提示出现。如果一切顺利的话，那么恭喜你成功设置了基于最新版 CUDA 的开发环境！

import torch
print(torch.cuda.is_available())
device = 'cuda' if torch.cuda.is_available() else 'cpu'
model = torch.nn.Linear(10, 5).to(device)
dummy_input = torch.randn((1, 10)).to(device)
output = model(dummy_input)
print(output)