Deepseek离线部署

Deepseek 离线部署指南
一、创建专用部署用户
为了安全性和权限管理，建议为 Deepseek 创建一个专门的用户账户。这可以通过以下命令实现：
sudo useradd -m -s /bin/bash deepseek
sudo usermod -aG docker deepseek
登录后复制
上述命令会创建名为 deepseek 的新用户并将其添加到 docker 用户组中[^3]。
二、配置存储目录结构
接着需要设置好用于保存模型和其他资源的数据目录。执行如下指令来完成这项工作：
sudo mkdir -p /deepseek/{models,configs,data}
sudo chown -R deepseek:deepseek /deepseek
登录后复制
这里 /deepseek/models, /deepseek/configs, 和 /deepseek/data 将分别用来存放预训练好的模型文件、配置参数以及运行过程中产生的数据。
三、获取所需镜像
对于离线环境而言，在能够访问互联网的地方预先下载所需的 Docker 镜像非常重要。可以选择不同大小版本的 Deepseek 模型进行安装，比如8B、14B 或者 32B 版本:
ollama pull deepseek-r1:8b
ollama pull deepseek-r1:14b
ollama pull deepseek-r1:32b
登录后复制
这些命令将会把指定版本的 Deepseek 模型拉取下来，并准备好供后续使用[^2]。
四、启动 Ollama 服务
当一切准备就绪之后，就可以通过简单的命令行操作让 Ollama 开始提供服务了：
ollama run deepseek-r1:<version>
登录后复制
其中 <version> 应替换为你所选择的具体型号（如 8b, 14b 或 32b）。这样就能成功激活相应的 Deepseek 实例。