什么是 DeepSeek?
DeepSeek 是由深度求索(DeepSeek)推出的一系列开源大语言模型,支持多种应用场景,如代码生成、文本创作、智能问答等。通过本地部署,你可以在离线环境下安全高效地使用该模型。
系统要求
- 操作系统: Windows 10/11 或 macOS 12 及以上
- 内存: 建议 16GB 以上
- 显卡(可选): 支持 CUDA 的 NVIDIA 显卡(用于 GPU 加速)
- 存储空间: 至少 10GB 可用空间(视模型大小而定)
安装步骤
- 安装 Python 3.10 或更高版本(官网下载)
- 打开终端(Windows 使用 CMD/PowerShell,macOS 使用 Terminal)
- 创建并激活虚拟环境(推荐):
python -m venv deepseek-env # Windows: deepseek-env\Scripts\activate # macOS/Linux: source deepseek-env/bin/activate
- 安装依赖包:
pip install torch transformers accelerate sentencepiece
- 下载 DeepSeek 模型(以 DeepSeek-Coder 为例):
from transformers import AutoTokenizer, AutoModelForCausalLM model_name = "deepseek-ai/deepseek-coder-1.3b-instruct" tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True) model = AutoModelForCausalLM.from_pretrained(model_name, trust_remote_code=True)
- 运行推理脚本或使用 Web UI(如 LM Studio、Ollama 等第三方工具)
常见问题
Q:没有独立显卡能运行吗?
A:可以,但速度较慢,建议使用较小的模型(如 1.3B 参数版本)。
Q:模型文件太大怎么办?
A:可使用量化版本(如 GGUF 格式)配合 llama.cpp 运行,大幅降低资源占用。