pycharm本地部署deepseek并调参

配置 PyCharm 以本地部署 DeepSeek 模型
为了在 PyCharm 中成功配置并运行 DeepSeek 模型，环境设置至关重要。确保安装了兼容版本的 Python 解释器以及必要的依赖库[^1]。
安装 DeepSeek 和其他必要包
首先，在项目环境中安装 DeepSeek 及其依赖项。可以通过命令行执行如下操作：
pip install deepseek-r1.5b codegpt-plugin
登录后复制
这一步骤会下载并安装指定版本的 DeepSeek 库以及其他所需的组件。
创建和配置新项目
启动 PyCharm 后创建一个新的 Python 项目。选择合适的解释器，并确认已正确设置了工作目录。接着将上述安装好的软件包加入到项目的虚拟环境中去。
编写代码以加载预训练模型
编写一段简单的 Python 脚本来初始化 DeepSeek 的预训练模型实例。下面是一个基本的例子：
from transformers import AutoModelForCausalLM, AutoTokenizer

model_name_or_path = "DeepSeek-r1.5b"
tokenizer = AutoTokenizer.from_pretrained(model_name_or_path)
model = AutoModelForCausalLM.from_pretrained(model_name_or_path)

text = "你好，世界!"
inputs = tokenizer(text, return_tensors="pt")
outputs = model.generate(**inputs)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))
登录后复制
这段代码展示了如何利用 Hugging Face Transformers 加载特定名称路径下的预训练语言模型，并对其进行简单测试。
使用 DeepSpeed 进行分布式训练或推理
如果计划使用多 GPU 或者希望减少内存占用，则可以考虑集成 DeepSpeed 来加速计算过程。对于此目的，可以从 GitHub 上获取一个简易的学习案例作为起点[^2]。
假设已经克隆了仓库 https://github.com/bobo0810/LearnDeepSpeed.git ，可以在终端里按照给定说明来设定环境变量并调用带有适当参数的脚本文件来进行实验性的训练任务:
CUDA_VISIBLE_DEVICES=4,6,7 deepspeed ./cifar10_deepspeed.py --deepspeed --deepspeed_config=./ds_config.json
登录后复制
请注意这里的设备编号应根据实际硬件情况做相应修改；同时也要确保配置 JSON 文件中的各项选项适合当前应用场景的需求。