百度360必应搜狗淘宝本站头条
python判断字典是否为空crontab每周一执行aes和des区别安装指定版本npmadb pull
当前位置：网站首页 > IT知识 > 正文

码农必看!手把手带你部署 DeepSeek-R1，小白也能秒变技术大神

liuian 2025-03-02 18:02 13 浏览

家人们，今天这篇教程绝对是干货中的干货！我将一步一步带你完成 DeepSeek-R1 的部署，就算你是刚入门的技术小白，只要跟着我的节奏走，也能轻松搞定。部署好 DeepSeek-R1，就相当于拥有了自己的专属智能助手，不管是做科研、搞项目开发，还是日常娱乐，都能轻松拿捏，大大提升效率！话不多说，马上进入正题！

一、开工前，先把装备备齐

硬件与基础环境



  • GPU：NVIDIA RTX 3090/4090 或者更高性能的型号（显存至少要达到 24GB，如果打算进行量化操作，显存最低可降至 12GB ，不过性能可能会受点影响）。
  • CPU：必须支持 AVX2 指令集，像 Intel i7 10 代 + 或者 AMD Ryzen 5 代 + 这样的处理器就比较合适。
  • 内存：32GB 起步，越大越好，运行起来才更流畅。
  • 硬盘：至少预留 50GB 的可用空间，用来存放模型和相关数据。
  • 操作系统：强烈推荐使用 Ubuntu 22.04 LTS，如果你习惯用 Windows，那 Windows 11 WSL2 也可以，不过记得提前开启 GPU 支持。

二、给模型部署搭好 “脚手架”

步骤 1：搭建 Python 环境小窝



首先，我们用 conda 来创建一个专属的虚拟环境，这就好比给我们的项目搭建一个独立的小房子，里面的各种依赖和配置都不会和其他项目冲突，非常方便管理。



收起

bash

# 使用conda创建虚拟环境（强烈推荐）
conda create -n deepseek python=3.10
conda activate deepseek



运行这两行代码，一个名为 deepseek 的 Python 3.10 虚拟环境就搭建好啦，并且自动激活，接下来安装的所有依赖都会乖乖待在这个环境里。

步骤 2：安装必备 “插件”



收起

bash

# 安装PyTorch（根据CUDA版本选择）
pip install torch==2.1.0 torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121

# 安装Hugging Face库
pip install transformers==4.35.0 accelerate==0.24.0

# 可选：安装vLLM加速推理（如果你有GPU，强烈建议安装）
pip install vllm==0.3.0



这些命令会帮我们安装好运行 DeepSeek-R1 模型所需要的核心工具包。PyTorch 是深度学习的核心框架，Hugging Face 库则为我们提供了方便调用模型的工具，而 vLLM 可以大大加速推理过程，让模型响应更快。

三、把模型 “请回家”

步骤 1：拿到模型 “钥匙”



这一步很关键，我们得去 DeepSeek 官网（或者联系官方商务人员）申请模型的权限，拿到模型权重文件（通常是.safetensors 或.bin 格式）以及配置文件（tokenizer.json 和 config.json） 。没有这些文件，模型就没法正常工作哦。



模型文件下载好后，目录结构大概是这样的：



收起

plaintext

deepseek-r1/
├── config.json
├── model-00001-of-00002.safetensors
├── model-00002-of-00002.safetensors
└── tokenizer.model

步骤 2：模型 “入住”



如果是通过官方提供的链接下载模型，就可以用下面的命令：



收起

bash

# 使用wget或官方工具
wget -O deepseek-r1.zip "https://example.com/deepseek-r1"
unzip deepseek-r1.zip -d./models/



这两行命令，第一行负责把模型文件从指定链接下载下来并命名为 deepseek-r1.zip，第二行则是把压缩包解压到当前目录下的 models 文件夹里。

四、让模型 “开口说话”

方法 1：用 Hugging Face Pipeline 小试牛刀（适合测试阶段）



收起

python

from transformers import AutoModelForCausalLM, AutoTokenizer

model_path = "./models/deepseek-r1"
tokenizer = AutoTokenizer.from_pretrained(model_path, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(model_path, device_map="auto")  # 自动分配GPU

# 输入提示词
prompt = "如何做西红柿炒鸡蛋？步骤："
inputs = tokenizer(prompt, return_tensors="pt").to("cuda")

# 生成文本
outputs = model.generate(**inputs, max_new_tokens=200)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))



这段代码的作用是，先从 Hugging Face 库中导入必要的模块，然后加载模型和分词器。接着，我们给模型一个 “如何做西红柿炒鸡蛋” 的问题，模型就会根据训练学到的知识，生成一段制作步骤的文本。

方法 2：用 vLLM 开启高效推理（适合生产环境）



收起

bash

# 启动API服务（单GPU）
python -m vllm.entrypoints.openai.api_server \
  --model./models/deepseek-r1 \
  --tensor-parallel-size 1 \
  --served-model-name deepseek-r1 \
  --port 8000



运行这个命令，就会启动一个基于 vLLM 的 API 服务，通过这个服务，我们可以更方便地与模型交互。



通过 HTTP 调用：



收起

bash

curl http://localhost:8000/v1/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-r1",
    "prompt": "中国的首都是哪里？",
    "max_tokens": 50,
    "temperature": 0.7
  }'



这是一个用 curl 命令向刚才启动的 API 服务发送请求的示例，我们询问 “中国的首都是哪里”，模型会在 50 个 token 的限制内，给出一个回答。

五、解锁更多高级玩法

1. 模型量化：给模型 “瘦身”，降低显存占用



收起

python

# 使用bitsandbytes 8-bit量化
from transformers import BitsAndBytesConfig

quant_config = BitsAndBytesConfig(
    load_in_8bit=True,
    llm_int8_threshold=6.0
)
model = AutoModelForCausalLM.from_pretrained(
    model_path,
    quantization_config=quant_config,
    device_map="auto"
)



如果你的 GPU 显存不够用，就可以试试模型量化。这段代码使用了 bitsandbytes 库，将模型量化为 8-bit，这样可以大大减少模型占用的显存，同时又能保持一定的性能。

2. 多轮对话：和模型来一场深度交流



收起

python

# 使用Chat模板
messages = [
    {"role": "user", "content": "你好，请介绍DeepSeek-R1"},
    {"role": "assistant", "content": "DeepSeek-R1是一款由深度求索公司开发的大型语言模型..."},
    {"role": "user", "content": "它的训练数据截止到什么时候？"}
]
inputs = tokenizer.apply_chat_template(messages, return_tensors="pt").to("cuda")
outputs = model.generate(inputs, max_new_tokens=100)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))



这个代码示例展示了如何和模型进行多轮对话。通过构建一个包含用户和模型交互信息的消息列表，我们可以让模型像聊天一样，根据之前的对话内容给出更合理的回答。

六、遇到问题别慌，这里有解决办法

1. 显存不足（OOM）：GPU “内存告急” 怎么办



  • 启用量化：前面提到的 8-bit/4-bit 量化技术可以显著减少模型对显存的需求。
  • 减少 max_tokens 参数：这个参数控制模型生成文本的长度，适当减小它，可以降低计算量和显存占用。
  • 使用 vLLM 的 PagedAttention 优化：vLLM 提供的这个优化技术可以更高效地管理显存，减少显存碎片，提高利用率。

2. 模型加载失败：模型 “闹脾气” 不加载了



  • 检查模型文件完整性：仔细核对模型文件的大小是否和官方提供的一致，如果文件损坏，肯定是加载不了的。
  • 更新库版本：有时候是因为库的版本太旧，导致和模型不兼容。可以试试用这个命令更新 safetensors 库：pip install safetensors>=0.4.1 。

七、看看模型在实际中的 “超能力”

1. 问答系统：轻松解决各种疑难问题



收起

python

def answer_question(question):
    prompt = f"问题：{question}\n回答："
    inputs = tokenizer(prompt, return_tensors="pt").to("cuda")
    outputs = model.generate(**inputs, max_new_tokens=200)
    return tokenizer.decode(outputs[0], skip_special_tokens=True)

print(answer_question("量子计算的核心原理是什么？"))



这段代码定义了一个函数，专门用来向模型提问并获取回答。不管是科学问题、生活常识，还是技术难题，都可以丢给模型试试。

2. 代码生成：编程好帮手，一键生成代码



收起

python

prompt = """
用Python写一个快速排序函数，要求：
1. 输入为一个整数列表
2. 返回排序后的列表
代码：
"""
print(answer_question(prompt))



有了这个模型，写代码都轻松多了。只要给出清晰的需求，模型就能帮你生成相应的代码框架，大大提高编程效率。

八、最后再叮嘱几句

安全建议



  • 千万别裸奔：绝对不要把 API 服务直接暴露在公网上，这就好比把家门大敞着，非常危险。可以使用 Nginx 反向代理结合 HTTPS 来增强安全性。
  • 做好身份验证：启用 API 密钥验证，参考 vLLM 文档里的 --api-key 参数设置，这样只有授权的用户才能访问你的模型服务。

性能调优



  • 调整 max_batch_size：合理设置这个参数，可以同时处理多个请求，有效提升吞吐量。
  • 使用 FlashAttention-2 加速：如果你的 GPU 支持，不妨试试这个技术，能进一步提升模型的运行速度。



家人们，按照这个教程一步步操作，你一定能成功部署 DeepSeek-R1！要是在过程中遇到任何问题，欢迎在评论区留言，大家一起交流解决。觉得这篇教程有用的话，别忘了点赞、收藏、转发，让更多的小伙伴受益！ #DeepSeek-R1 #模型部署 #大语言模型 #技术教程

相关推荐

总结下SpringData JPA 的常用语法

SpringDataJPA常用有两种写法，一个是用Jpa自带方法进行CRUD，适合简单查询场景、例如查询全部数据、根据某个字段查询，根据某字段排序等等。另一种是使用注解方式，@Query、@Modi...

解决JPA在多线程中事务无法生效的问题

在使用SpringBoot2.x和JPA的过程中，如果在多线程环境下发现查询方法（如@Query或findAll）以及事务（如@Transactional）无法生效，通常是由于S...

PostgreSQL系列(一):数据类型和基本类型转换

自从厂子里出来后，数据库的主力就从Oracle变成MySQL了。有一说一哈，贵确实是有贵的道理，不是开源能比的。后面的工作里面基本上就是主MySQL，辅MongoDB、ES等NoSQL。最近想写一点跟...

基于MCP实现text2sql

目的：基于MCP实现text2sql能力参考：https://blog.csdn.net/hacker_Lees/article/details/146426392服务端#选用开源的MySQLMCP...

ORACLE 错误代码及解决办法

ORA-00001:违反唯一约束条件(.)错误说明：当在唯一索引所对应的列上键入重复值时，会触发此异常。ORA-00017:请求会话以设置跟踪事件ORA-00018:超出最大会话数ORA-00...

从 SQLite 到 DuckDB:查询快 5 倍，存储减少 80%

作者丨Trace译者丨明知山策划丨李冬梅Trace从一开始就使用SQLite将所有数据存储在用户设备上。这是一个非常不错的选择——SQLite高度可靠，并且多种编程语言都提供了广泛支持...

010:通过 MCP PostgreSQL 安全访问数据

项目简介提供对PostgreSQL数据库的只读访问功能。该服务器允许大型语言模型（LLMs）检查数据库的模式结构，并执行只读查询操作。核心功能提供对PostgreSQL数据库的只读访问允许L...

发现了一个好用且免费的SQL数据库工具(DBeaver)

缘起最近Ai不是大火么，想着自己也弄一些开源的框架来捣腾一下。手上用着Mac，但Mac都没有显卡的，对于学习Ai训练模型不方便，所以最近新购入了一台4090的拯救者，打算用来好好学习一下Ai（呸，以上...

微软发布.NET 10首个预览版:JIT编译器再进化、跨平台开发更流畅

IT之家2月26日消息，微软.NET团队昨日（2月25日）发布博文，宣布推出.NET10首个预览版更新，重点改进.NETRuntime、SDK、libraries、C#、AS...

数据库管理工具Navicat Premium最新版发布啦

管理多个数据库要么需要使用多个客户端应用程序，要么找到一个可以容纳你使用的所有数据库的应用程序。其中一个工具是NavicatPremium。它不仅支持大多数主要的数据库管理系统（DBMS），而且它...

50+AI新品齐发，微软Build放大招:拥抱Agent胜算几何?

北京时间5月20日凌晨，如果你打开微软Build2025开发者大会的直播，最先吸引你的可能不是一场原本属于AI和开发者的技术盛会，而是开场不久后的尴尬一幕：一边是几位微软员工在台下大...

揭秘:一条SQL语句的执行过程是怎么样的?

数据库系统能够接受SQL语句，并返回数据查询的结果，或者对数据库中的数据进行修改，可以说几乎每个程序员都使用过它。而MySQL又是目前使用最广泛的数据库。所以，解析一下MySQL编译并执行...

各家sql工具，都闹过哪些乐子?

相信这些sql工具，大家都不陌生吧，它们在业内绝对算得上第一梯队的产品了，但是你知道，他们都闹过什么乐子吗？首先登场的是Navicat，这款强大的数据库管理工具，曾经让一位程序员朋友“火”了一把。Na...

详解PG数据库管理工具--pgadmin工具、安装部署及相关功能

概述今天主要介绍一下PG数据库管理工具--pgadmin，一起来看看吧~一、介绍pgAdmin4是一款为PostgreSQL设计的可靠和全面的数据库设计和管理软件，它允许连接到特定的数据库，创建表和...

Enpass for Mac(跨平台密码管理软件)

还在寻找密码管理软件吗？密码管理软件有很多，但是综合素质相当优秀且完全免费的密码管理软件却并不常见，EnpassMac版是一款免费跨平台密码管理软件，可以通过这款软件高效安全的保护密码文件，而且可以...

一周热门
最近发表
标签列表