deepseek 本地部署 服务器
时间: 2025-02-17 15:16:04 浏览: 85
DeepSeek 本地服务器部署指南
准备工作
为了成功在本地服务器上部署 DeepSeek,需确保服务器满足最低硬件需求并已安装必要的软件环境。建议配置如下:
- CPU:至少8核心以上处理器
- RAM:最少64GB内存
- 存储空间:500GB SSD 或更大
- 操作系统:Windows Server 版本[^1]
安装依赖项
确认 Windows 系统已经更新至最新版本,并安装 .NET Framework 和 Visual C++ Redistributable Packages。
对于 Python 环境设置,推荐使用 Anaconda 发行版来管理虚拟环境以及所需库文件。通过命令提示符执行以下指令创建新的 conda 虚拟环境并激活它:
conda create -n deepseek python=3.9
conda activate deepseek
获取 DeepSeek
访问官方 GitHub 页面下载最新的发布包或将仓库克隆到本地机器上。如果网络条件允许的话,可以直接利用 Git 工具完成此操作:
git clone https://github.com/deepseek-labs/DeepSeek.git
cd DeepSeek
配置模型参数
根据实际应用场景调整 config.yaml
文件中的各项设定值,特别是关于 GPU 使用情况的部分。这一步骤非常重要,因为不恰当的资源配置可能会导致性能下降甚至无法启动服务。
启动 DeepSeek 服务
进入项目根目录下运行下列 PowerShell 命令以启动 DeepSeek 应用程序:
ollama run deepseek-r1:70b
上述命令将会加载预训练好的 LLaMA-70B 模型实例并将其托管于指定端口之上等待客户端连接请求。
相关推荐


















