deepseek 7B本地部署
时间: 2025-02-07 17:55:54 浏览: 160
部署 DeepSeek 7B 模型
对于希望在本地环境中部署 DeepSeek 7B 模型的用户来说,可以遵循特定的操作指南来完成这一过程。此流程适用于 Windows 用户。
准备工作
前往 Ollama 官方网站下载针对 Windows 的安装文件 ollama setup.exe
并执行该安装程序以准备必要的软件环境[^1]。
创建存储路径
创建一个新的目录用于存放模型文件;例如,在 E 盘下建立名为 ollama
文件夹 (E:\ollama
) 。接着打开命令提示符 (CMD),依次输入下列指令设置环境变量:
set OLLAMA_MODELS=E:\ollama
set OLLAMA_HOST=127.0.0.1:8000
set OLLAMA_ORIGINS=*
这些操作指定了模型保存位置、服务监听地址及允许跨域资源共享(CORS)来源。
验证安装情况
当上述步骤完成后,可以通过键入 ollama -v
来验证是否正确安装了 Ollama 工具链。如果显示出了版本信息,则表明安装无误。
启动 DeepSeek 7B 模型
最后一步是在 CMD 中运行如下命令启动指定大小的 DeepSeek 模型实例:
ollama run deepseek-r1:7b
这将会触发自动化的模型下载与初始化过程,并使得可以在命令行界面同模型交互交流[^3]。
需要注意的是,由于硬件资源的不同,实际使用效果会有所差异。特别是对于显存较小的情况(如 RTX2060 6GB),虽然仍能支持运行,但是可能会影响响应速度和整体性能表现。
相关推荐


















