win11 docker gpu

Win11 Docker GPU是一种用于Windows 11操作系统的容器化技术，通过在容器中安装显卡驱动程序和GPU加速库，使得在容器中运行的应用程序可以利用本地GPU资源进行加速计算。这种技术可用于训练深度学习模型、进行科学计算、进行渲染等需要大量计算资源的应用场景。

要使用Win11 Docker GPU，首先需要安装Docker Desktop for Windows，并且确保计算机上已经安装了支持CUDA的显卡驱动程序。然后可以通过在Dockerfile文件中指定GPU镜像、使用nvidia-docker命令启动容器、使用CUDA和cuDNN库等方式来实现GPU加速。

相关问题

wls2中docker使用GPU

### 配置Docker容器使用NVIDIA GPU加速

#### 一、环境准备

为了使 Docker 容器能够利用 NVIDIA GPU 加速，在 WSL2 上需完成必要的前期准备工作。这包括确认操作系统版本满足最低需求，即 Windows 10 版本号至少为 20H1 或更高版本以及已启用 Hyper-V 功能[^3]。

#### 二、安装并配置WSL2与Ubuntu子系统

确保已经按照官方指南正确设置了 WSL2 和 Ubuntu 子系统的集成环境。对于大多数情况而言，建议采用默认设置来简化操作流程。值得注意的是，如果是在 Win11 平台上，则无需单独安装 Nvidia 显卡驱动程序因为其通常由系统自动提供支持[^2]；而对于Win10平台则可能需要手动下载对应的显卡驱动文件。

#### 三、安装适用于Linux的NVIDIA Container Toolkit

在终端内执行命令以获取最新的稳定版 NVIDIA 容器工具包：

distribution=$(. /etc/os-release;echo $ID$VERSION_ID)
curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -
curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list
sudo apt-get update && sudo apt-get install -y nvidia-container-toolkit
sudo systemctl restart docker

上述脚本会向 APT 源列表添加来自 NVIDIA 的 GPG 密钥和软件仓库地址，并最终重启 Docker 服务以便应用更改[^4]。

#### 四、验证GPU功能正常工作

创建一个新的带有 `--gpus all` 参数选项运行的基础镜像实例来进行简单的 CUDA 测试:

docker run --rm --gpus all nvcr.io/nvidia/cuda:11.0-base nvidia-smi

这条指令将会拉取一个基于CUDA 11.0构建的基础镜像，并尝试调用宿主机上的所有可用 GPU 资源显示设备状态信息。如果一切顺利的话，应该可以看到有关于当前图形处理器的相关详情报告被打印出来[^1]。

docker ollama open-webui gpu

### 部署和运行Ollama Open-WebUI于GPU上的指南

为了在GPU上使用Docker部署并运行Ollama Open-WebUI，需先确认已安装支持NVIDIA GPU的Docker环境。这通常意味着已经配置好带有CUDA支持的Docker版本以及相应的驱动程序[^2]。

#### 安装必要的组件

确保计算机配备有兼容的NVIDIA显卡，并按照官方指导完成NVIDIA Driver、CUDA Toolkit 和 NVIDIA Container Toolkit 的安装过程。这些工具允许容器化应用程序访问主机系统的GPU资源。

#### 启用Docker Desktop中的WSL 2集成（针对Windows用户）

对于Win11操作系统而言，在启动任何涉及GPU加速的操作前，应该开启WSL 2 (Windows Subsystem for Linux version 2)，并且使能其与Docker Desktop之间的互操作性设置。此步骤有助于提高性能表现并简化后续流程。

#### 获取镜像文件

通过执行`docker pull ollama/open-webui-gpu`来拉取适用于GPU运算优化过的Open-WebUI Docker镜像。该特定标签包含了预编译好的依赖项以便更好地利用图形处理单元的能力。

docker pull ollama/open-webui-gpu

#### 运行容器实例

创建一个新的容器实例时指定参数以启用GPU共享功能：

docker run --gpus all -d -p 7860:7860 --name=open-webui ollama/open-webui-gpu

上述命令中：
- `--gpus all`: 表明将分配所有的可用GPU给这个容器；
- `-d`: 让容器以后台模式运行；
- `-p 7860:7860`: 将宿主机端口映射到容器内部的服务监听地址；
- `--name=open-webui`: 给新创建的容器赋予一个易于识别的名字；

此时应当能够成功地基于GPU硬件加速特性启动Ollama Open-WebUI服务[^1]。

#### 停止或移除容器

当不再需要正在运行的应用程序时，可以采用如下方式安全地中止进程或是彻底删除对应的容器对象：

要停止当前活动中的open-webui应用可输入:

docker stop open-webui

而若想完全卸载包括数据卷在内的整个项目，则应依次执行这两条指令:

docker rm -f open-webui
docker rmi ollama/open-webui-gpu