简介
DeepSeek-R1 是由深度求索(DeepSeek)推出的一款开源大语言模型,支持在本地环境中部署和运行。本专题页旨在帮助开发者快速完成 DeepSeek-R1 的本地部署,涵盖从环境搭建到模型推理的完整流程。
部署前提
- 操作系统:Linux / Windows WSL / macOS(推荐 Linux)
- Python 版本 ≥ 3.9
- GPU(可选但推荐,至少 16GB 显存)
- 磁盘空间 ≥ 20GB(用于模型文件)
安装步骤
- 克隆官方仓库:
git clone https://github.com/deepseek-ai/DeepSeek.git cd DeepSeek
- 安装依赖:
pip install -r requirements.txt
- 下载 DeepSeek-R1 模型权重(需登录 Hugging Face):
huggingface-cli download deepseek-ai/deepseek-r1 --local-dir ./models/deepseek-r1
- 启动推理服务(示例):
python inference.py --model_path ./models/deepseek-r1
常见问题
Q:没有 GPU 能跑吗?
A:可以,但速度较慢,建议使用 CPU 模式并加载量化版本模型(如 GGUF 格式)。
Q:模型文件太大怎么办?
A:可使用 llama.cpp 或 vLLM 等工具加载量化模型,大幅降低资源占用。