win11 docker gpu

Win11 Docker GPU是一种用于Windows 11操作系统的容器化技术，通过在容器中安装显卡驱动程序和GPU加速库，使得在容器中运行的应用程序可以利用本地GPU资源进行加速计算。这种技术可用于训练深度学习模型、进行科学计算、进行渲染等需要大量计算资源的应用场景。

要使用Win11 Docker GPU，首先需要安装Docker Desktop for Windows，并且确保计算机上已经安装了支持CUDA的显卡驱动程序。然后可以通过在Dockerfile文件中指定GPU镜像、使用nvidia-docker命令启动容器、使用CUDA和cuDNN库等方式来实现GPU加速。

相关问题

wls2中docker使用GPU

### 配置Docker容器使用NVIDIA GPU加速

#### 一、环境准备

为了使 Docker 容器能够利用 NVIDIA GPU 加速，在 WSL2 上需完成必要的前期准备工作。这包括确认操作系统版本满足最低需求，即 Windows 10 版本号至少为 20H1 或更高版本以及已启用 Hyper-V 功能[^3]。

#### 二、安装并配置WSL2与Ubuntu子系统

确保已经按照官方指南正确设置了 WSL2 和 Ubuntu 子系统的集成环境。对于大多数情况而言，建议采用默认设置来简化操作流程。值得注意的是，如果是在 Win11 平台上，则无需单独安装 Nvidia 显卡驱动程序因为其通常由系统自动提供支持[^2]；而对于Win10平台则可能需要手动下载对应的显卡驱动文件。

#### 三、安装适用于Linux的NVIDIA Container Toolkit

在终端内执行命令以获取最新的稳定版 NVIDIA 容器工具包：

distribution=$(. /etc/os-release;echo $ID$VERSION_ID)
curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -
curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list
sudo apt-get update && sudo apt-get install -y nvidia-container-toolkit
sudo systemctl restart docker

上述脚本会向 APT 源列表添加来自 NVIDIA 的 GPG 密钥和软件仓库地址，并最终重启 Docker 服务以便应用更改[^4]。

#### 四、验证GPU功能正常工作

创建一个新的带有 `--gpus all` 参数选项运行的基础镜像实例来进行简单的 CUDA 测试:

docker run --rm --gpus all nvcr.io/nvidia/cuda:11.0-base nvidia-smi

这条指令将会拉取一个基于CUDA 11.0构建的基础镜像，并尝试调用宿主机上的所有可用 GPU 资源显示设备状态信息。如果一切顺利的话，应该可以看到有关于当前图形处理器的相关详情报告被打印出来[^1]。

win ollama 如何跑gpu

### 配置 Ollama 在 Windows 上使用 GPU 加速

#### 安装 NVIDIA CUDA 和 cuDNN
为了使 Ollama 能够利用 GPU 加速，需要先安装适用于 Windows 的 NVIDIA CUDA Toolkit 及其配套的 cuDNN 库。这一步骤对于确保后续操作顺利至关重要[^1]。

#### 设置 Docker Desktop 并启用 WSL 2 支持
由于官方文档推荐通过 Docker 来部署 Ollama，因此需要在 Windows 中设置好 Docker Desktop，并开启对 WSL 2 (Windows Subsystem for Linux version 2)的支持。WSL 2 提供了一个更接近原生 Linux 环境的方式运行容器化应用程序，这对于依赖特定驱动程序和服务的应用尤为重要[^2]。

#### 启用并配置 NVIDIA Container Toolkit
为了让 Docker 容器能够识别到主机上的 GPU 设备，还需要安装和配置 NVIDIA Container Toolkit。虽然原始命令 `sudo apt-y nvidia-container-toolkit` 是针对 Linux 发行版设计的，但在 Windows 下可以通过 WSL 2 或者直接从 NVIDIA 官方获取对应的 Windows 版本来进行安装。

#### 创建并启动带有 GPU 访问权限的 Ollama 容器
完成上述准备工作之后，可以创建一个新的 Docker 容器来承载 Ollama 实例，并赋予该容器访问所有可用 GPU 的权利：

docker run --gpus all -d -v C:\path\to\model:/root/.ollama -p 8080:11434 --name ollama ollama/ollama

这里假设模型文件存放在本地磁盘路径 `C:\path\to\model` 下；端口映射部分将宿主机的 8080 端口转发给容器内的默认服务监听端口 11434。

#### 测试 GPU 是否正常工作
最后，进入正在运行中的 Ollama 容器内部执行测试命令验证 GPU 功能是否已经成功集成：

docker exec -it ollama nvidia-smi

如果一切正常，则应该可以看到有关已连接 GPU 设备的信息列表显示出来。