内网部署deepseek
时间: 2025-03-02 10:19:51 浏览: 21
内网环境下部署 DeepSeek 的方法
修改默认存储路径
由于内网环境通常有严格的磁盘使用规定,DeepSeek模型下载后,默认会保存在C盘。如果希望更改这一默认行为,在Ollama的配置文件中进行相应设置即可[^1]。
安装前准备
对于内网部署而言,确保所使用的计算机满足最低硬件需求至关重要;尽管DeepSeek能在低配设备上运作,但推荐采用高性能CPU并预留充足RAM来保障流畅度。此外,考虑到可能存在的网络隔离情况,提前获取所有必需组件(如特定版本的Python解释器或其他依赖库),并将它们置于局域网内的私有仓库供后续离线安装之用。
处理防火墙规则
针对某些企业级内部网络中存在的严格访问控制策略,可能会遇到因防火墙阻止而导致的服务不可达问题。此时可以通过创建新的入站规则允许指定端口通信的方式解决此障碍,例如利用PowerShell脚本New-NetFirewallRule -DisplayName "Ollama" -Action Allow -Protocol TCP -LocalPort 11434
开放必要端口以支持服务正常启动[^4]。
调整资源配置
当面临有限计算资源的情况下执行大规模推理任务时,则需谨慎调整程序运行参数以优化性能表现。比如通过附加选项--num-gpu 0 --num-threads 2
减少GPU占用量以及限定多线程数量从而避免过度消耗物理内存引发崩溃等问题发生。
数据安全考量
鉴于医疗行业特殊性质及其对信息安全的高度关注,在Linux平台上实施额外的安全防护手段十分必要——这不仅有助于抵御外部威胁同时也保护了患者隐私资料免遭未授权访问或泄露风险。
# 创建新防火墙规则示例 (适用于 Windows PowerShell)
New-NetFirewallRule -DisplayName "Ollama" -Action Allow -Protocol TCP -LocalPort 11434
相关推荐


















