deepseek671b本地部署
时间: 2025-02-18 15:20:37 浏览: 79
DeepSeek R1 671B 本地部署方法
为了在本地环境中成功部署 DeepSeek R1 671B 模型,需遵循一系列特定的操作流程。此过程涉及下载必要的工具包、配置环境变量以及启动服务。
准备工作
安装 ollama
是第一步操作。通过命令行执行如下指令来获取并解压缩所需的文件:
curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz
上述命令会从指定网址下载 Linux 版本的 ollama
工具,并将其放置于系统的 /usr
目录下[^2]。
环境设置
完成软件安装之后,下一步是对运行时环境进行适当调整。这一步骤主要集中在定义几个重要的环境变量上,这些变量用于控制 ollama
的行为模式及其访问权限:
export OLLAMA_HOST=0.0.0.0:11434
export OLLAMA_ORIGINS=*
export OLLAMA_MODELS=/u01/ollama/models
这里设置了主机地址为所有接口开放监听 (0.0.0.0
) 并指定了端口号;允许来自任何源(*
) 的请求连接到该服务器;最后设定了存储模型的位置路径。
启动与验证
当一切准备工作就绪后,可以通过启动 ollama
来检验整个部署是否正常运作。通常情况下,在完成了前面提到的各项设定以后,只需简单地调用相应的可执行文件即可激活服务。对于具体如何启动程序,请参照官方文档或随附的帮助手册获得更详细的指导说明[^1]。
相关推荐

















