DeepSeek 是一款由深度求索(DeepSeek)开发的开源大语言模型,支持多种应用场景。本指南将帮助你在个人电脑上完成 DeepSeek 的安装与基本运行。
1. 系统要求
- 操作系统:Windows 10/11、macOS 12+ 或 Linux(推荐 Ubuntu 20.04+)
- Python 3.9 或更高版本
- 至少 8GB 内存(推荐 16GB 以上)
- 若使用 GPU 加速,需支持 CUDA 的 NVIDIA 显卡(可选)
2. 安装步骤
- 安装 Python:前往 python.org 下载并安装最新版 Python。
- 创建虚拟环境(推荐):
python -m venv deepseek-env cd deepseek-env Scripts\\activate # Windows # source bin/activate # macOS/Linux
- 安装依赖:
pip install torch transformers accelerate sentencepiece
- 下载 DeepSeek 模型(以 DeepSeek-Coder 为例):
from transformers import AutoTokenizer, AutoModelForCausalLM model_name = "deepseek-ai/deepseek-coder-1.3b-instruct" tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True) model = AutoModelForCausalLM.from_pretrained(model_name, trust_remote_code=True)
- 运行推理:编写简单脚本进行文本生成测试。
3. 注意事项
- 首次运行会自动下载模型文件,请确保网络畅通。
- 大模型对硬件要求较高,低配电脑建议使用量化版本(如 GGUF 格式 + llama.cpp)。
- 部分模型需 Hugging Face 账号并接受使用协议。
4. 常见问题
Q:没有独立显卡能运行吗?
A:可以,但速度较慢,建议使用 CPU 友好型量化模型。
Q:是否需要联网?
A:仅首次下载模型时需要,之后可离线使用。