mac本地部署deepseek

如何在Mac OS上本地部署DeepSeek
对于希望在Mac操作系统上本地运行DeepSeek的用户来说，可以遵循特定的操作流程来完成这一目标。首先，确保安装了Python环境以及pip工具，这是执行后续操作的基础[^1]。
安装依赖库
为了使项目顺利运作，在终端中通过pip安装必要的Python包是必不可少的一环。通常情况下，这涉及到读取requirements.txt文件并据此安装所需的软件包：
pip install -r requirements.txt
登录后复制
获取模型路径
根据不同的需求可以选择由VLLM或是Hugging Face提供的模型版本。当采用基于Gradio构建的Web界面展示时，需指定相应的仓库路径作为参数传递给脚本。例如，如果选用的是来自VLLM CPM存储库中的模型，则应按照下面的方式调用命令行工具：
python demo/vllm_based_demo.py --model_path <vllmcpm_repo_path>
登录后复制
而若是倾向于利用Hugging Face平台上的资源，则对应的指令变为：
python demo/hf_based_demo.py --model_path <hf_repo_path>
登录后复制
这里需要注意替换实际存在的目录地址到上述模板内的占位符位置处。
启动服务
成功配置好所有前置条件之后，只需简单地执行上面提到过的任意一条启动命令即可开启DeepSeek的服务端口，默认会监听localhost下的8080端口号提供交互式的在线体验页面访问功能。