deepseek-r1部署m1

如何在M1芯片上部署DeepSeek-R1
准备工作
为了成功安装并运行 DeepSeek R1 模型，在 M1 芯片 MacBook 上需先完成必要的准备工作。确保操作系统已更新至最新版本，并安装 Homebrew 作为包管理工具，以便后续操作更加便捷[^1]。
安装依赖项
通过终端执行命令来安装 Python 和虚拟环境支持：
brew install python
pip3 install virtualenv
登录后复制
创建一个新的虚拟环境用于隔离项目依赖关系：
virtualenv venv
source venv/bin/activate
登录后复制
激活虚拟环境中继续安装其他所需库文件，如 PyTorch 版本应与 Apple Silicon 架构相匹配：
pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cpu
pip install deepspeed
登录后复制
获取 DeepSeek R1 源码
前往 GitHub 或官方指定平台下载最新的 DeepSeek R1 发布版源代码压缩包，解压到本地目录下准备编译构建。
编译配置
进入解压后的 DeepSeek 文件夹内，按照 README.md 中给出的具体指示调整 Makefile 配置参数以适应 ARM64 架构下的编译需求。对于某些特定选项可能需要额外设置环境变量来进行优化处理。
运行测试实例
一切就绪之后可以尝试启动一个简单的推理脚本来验证整个流程是否正常运作。通常情况下会有一个 demo.py 提供给开发者快速体验功能特性：
from transformers import AutoModelForCausalLM, AutoTokenizer

model_name_or_path = "path_to_deepseek_r1"
tokenizer = AutoTokenizer.from_pretrained(model_name_or_path)
model = AutoModelForCausalLM.from_pretrained(model_name_or_path)

input_text = "你好啊,"
inputs = tokenizer(input_text, return_tensors="pt").to("mps")

outputs = model.generate(**inputs, max_length=50)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))
登录后复制