百度360必应搜狗淘宝本站头条
python判断字典是否为空crontab每周一执行aes和des区别安装指定版本npmadb pull
当前位置：网站首页 > IT知识 > 正文

码农必看!手把手带你部署 DeepSeek-R1，小白也能秒变技术大神

liuian 2025-03-02 18:02 7 浏览

家人们，今天这篇教程绝对是干货中的干货！我将一步一步带你完成 DeepSeek-R1 的部署，就算你是刚入门的技术小白，只要跟着我的节奏走，也能轻松搞定。部署好 DeepSeek-R1，就相当于拥有了自己的专属智能助手，不管是做科研、搞项目开发，还是日常娱乐，都能轻松拿捏，大大提升效率！话不多说，马上进入正题！

一、开工前，先把装备备齐

硬件与基础环境



  • GPU：NVIDIA RTX 3090/4090 或者更高性能的型号（显存至少要达到 24GB，如果打算进行量化操作，显存最低可降至 12GB ，不过性能可能会受点影响）。
  • CPU：必须支持 AVX2 指令集，像 Intel i7 10 代 + 或者 AMD Ryzen 5 代 + 这样的处理器就比较合适。
  • 内存：32GB 起步，越大越好，运行起来才更流畅。
  • 硬盘：至少预留 50GB 的可用空间，用来存放模型和相关数据。
  • 操作系统：强烈推荐使用 Ubuntu 22.04 LTS，如果你习惯用 Windows，那 Windows 11 WSL2 也可以，不过记得提前开启 GPU 支持。

二、给模型部署搭好 “脚手架”

步骤 1：搭建 Python 环境小窝



首先，我们用 conda 来创建一个专属的虚拟环境，这就好比给我们的项目搭建一个独立的小房子，里面的各种依赖和配置都不会和其他项目冲突，非常方便管理。



收起

bash

# 使用conda创建虚拟环境（强烈推荐）
conda create -n deepseek python=3.10
conda activate deepseek



运行这两行代码，一个名为 deepseek 的 Python 3.10 虚拟环境就搭建好啦，并且自动激活，接下来安装的所有依赖都会乖乖待在这个环境里。

步骤 2：安装必备 “插件”



收起

bash

# 安装PyTorch（根据CUDA版本选择）
pip install torch==2.1.0 torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121

# 安装Hugging Face库
pip install transformers==4.35.0 accelerate==0.24.0

# 可选：安装vLLM加速推理（如果你有GPU，强烈建议安装）
pip install vllm==0.3.0



这些命令会帮我们安装好运行 DeepSeek-R1 模型所需要的核心工具包。PyTorch 是深度学习的核心框架，Hugging Face 库则为我们提供了方便调用模型的工具，而 vLLM 可以大大加速推理过程，让模型响应更快。

三、把模型 “请回家”

步骤 1：拿到模型 “钥匙”



这一步很关键，我们得去 DeepSeek 官网（或者联系官方商务人员）申请模型的权限，拿到模型权重文件（通常是.safetensors 或.bin 格式）以及配置文件（tokenizer.json 和 config.json） 。没有这些文件，模型就没法正常工作哦。



模型文件下载好后，目录结构大概是这样的：



收起

plaintext

deepseek-r1/
├── config.json
├── model-00001-of-00002.safetensors
├── model-00002-of-00002.safetensors
└── tokenizer.model

步骤 2：模型 “入住”



如果是通过官方提供的链接下载模型，就可以用下面的命令：



收起

bash

# 使用wget或官方工具
wget -O deepseek-r1.zip "https://example.com/deepseek-r1"
unzip deepseek-r1.zip -d./models/



这两行命令，第一行负责把模型文件从指定链接下载下来并命名为 deepseek-r1.zip，第二行则是把压缩包解压到当前目录下的 models 文件夹里。

四、让模型 “开口说话”

方法 1：用 Hugging Face Pipeline 小试牛刀（适合测试阶段）



收起

python

from transformers import AutoModelForCausalLM, AutoTokenizer

model_path = "./models/deepseek-r1"
tokenizer = AutoTokenizer.from_pretrained(model_path, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(model_path, device_map="auto")  # 自动分配GPU

# 输入提示词
prompt = "如何做西红柿炒鸡蛋？步骤："
inputs = tokenizer(prompt, return_tensors="pt").to("cuda")

# 生成文本
outputs = model.generate(**inputs, max_new_tokens=200)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))



这段代码的作用是，先从 Hugging Face 库中导入必要的模块，然后加载模型和分词器。接着，我们给模型一个 “如何做西红柿炒鸡蛋” 的问题，模型就会根据训练学到的知识，生成一段制作步骤的文本。

方法 2：用 vLLM 开启高效推理（适合生产环境）



收起

bash

# 启动API服务（单GPU）
python -m vllm.entrypoints.openai.api_server \
  --model./models/deepseek-r1 \
  --tensor-parallel-size 1 \
  --served-model-name deepseek-r1 \
  --port 8000



运行这个命令，就会启动一个基于 vLLM 的 API 服务，通过这个服务，我们可以更方便地与模型交互。



通过 HTTP 调用：



收起

bash

curl http://localhost:8000/v1/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-r1",
    "prompt": "中国的首都是哪里？",
    "max_tokens": 50,
    "temperature": 0.7
  }'



这是一个用 curl 命令向刚才启动的 API 服务发送请求的示例，我们询问 “中国的首都是哪里”，模型会在 50 个 token 的限制内，给出一个回答。

五、解锁更多高级玩法

1. 模型量化：给模型 “瘦身”，降低显存占用



收起

python

# 使用bitsandbytes 8-bit量化
from transformers import BitsAndBytesConfig

quant_config = BitsAndBytesConfig(
    load_in_8bit=True,
    llm_int8_threshold=6.0
)
model = AutoModelForCausalLM.from_pretrained(
    model_path,
    quantization_config=quant_config,
    device_map="auto"
)



如果你的 GPU 显存不够用，就可以试试模型量化。这段代码使用了 bitsandbytes 库，将模型量化为 8-bit，这样可以大大减少模型占用的显存，同时又能保持一定的性能。

2. 多轮对话：和模型来一场深度交流



收起

python

# 使用Chat模板
messages = [
    {"role": "user", "content": "你好，请介绍DeepSeek-R1"},
    {"role": "assistant", "content": "DeepSeek-R1是一款由深度求索公司开发的大型语言模型..."},
    {"role": "user", "content": "它的训练数据截止到什么时候？"}
]
inputs = tokenizer.apply_chat_template(messages, return_tensors="pt").to("cuda")
outputs = model.generate(inputs, max_new_tokens=100)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))



这个代码示例展示了如何和模型进行多轮对话。通过构建一个包含用户和模型交互信息的消息列表，我们可以让模型像聊天一样，根据之前的对话内容给出更合理的回答。

六、遇到问题别慌，这里有解决办法

1. 显存不足（OOM）：GPU “内存告急” 怎么办



  • 启用量化：前面提到的 8-bit/4-bit 量化技术可以显著减少模型对显存的需求。
  • 减少 max_tokens 参数：这个参数控制模型生成文本的长度，适当减小它，可以降低计算量和显存占用。
  • 使用 vLLM 的 PagedAttention 优化：vLLM 提供的这个优化技术可以更高效地管理显存，减少显存碎片，提高利用率。

2. 模型加载失败：模型 “闹脾气” 不加载了



  • 检查模型文件完整性：仔细核对模型文件的大小是否和官方提供的一致，如果文件损坏，肯定是加载不了的。
  • 更新库版本：有时候是因为库的版本太旧，导致和模型不兼容。可以试试用这个命令更新 safetensors 库：pip install safetensors>=0.4.1 。

七、看看模型在实际中的 “超能力”

1. 问答系统：轻松解决各种疑难问题



收起

python

def answer_question(question):
    prompt = f"问题：{question}\n回答："
    inputs = tokenizer(prompt, return_tensors="pt").to("cuda")
    outputs = model.generate(**inputs, max_new_tokens=200)
    return tokenizer.decode(outputs[0], skip_special_tokens=True)

print(answer_question("量子计算的核心原理是什么？"))



这段代码定义了一个函数，专门用来向模型提问并获取回答。不管是科学问题、生活常识，还是技术难题，都可以丢给模型试试。

2. 代码生成：编程好帮手，一键生成代码



收起

python

prompt = """
用Python写一个快速排序函数，要求：
1. 输入为一个整数列表
2. 返回排序后的列表
代码：
"""
print(answer_question(prompt))



有了这个模型，写代码都轻松多了。只要给出清晰的需求，模型就能帮你生成相应的代码框架，大大提高编程效率。

八、最后再叮嘱几句

安全建议



  • 千万别裸奔：绝对不要把 API 服务直接暴露在公网上，这就好比把家门大敞着，非常危险。可以使用 Nginx 反向代理结合 HTTPS 来增强安全性。
  • 做好身份验证：启用 API 密钥验证，参考 vLLM 文档里的 --api-key 参数设置，这样只有授权的用户才能访问你的模型服务。

性能调优



  • 调整 max_batch_size：合理设置这个参数，可以同时处理多个请求，有效提升吞吐量。
  • 使用 FlashAttention-2 加速：如果你的 GPU 支持，不妨试试这个技术，能进一步提升模型的运行速度。



家人们，按照这个教程一步步操作，你一定能成功部署 DeepSeek-R1！要是在过程中遇到任何问题，欢迎在评论区留言，大家一起交流解决。觉得这篇教程有用的话，别忘了点赞、收藏、转发，让更多的小伙伴受益！ #DeepSeek-R1 #模型部署 #大语言模型 #技术教程

相关推荐

x-cmd install | jellex - 用 Python 语法在终端里玩转 JSON 数据!

还在为命令行下处理JSON数据烦恼吗？jellex来了！它是一款基于终端的交互式JSON和JSONLines数据处理工具，让你用熟悉的Python语法，轻松过滤、转换和探索JSO...

一篇长文带你在Python里玩转Json数据

Json简介Json（JavaScriptObjectNotation）很多网站都会用到Json格式来进行数据的传输和交换，就像上篇我提到的网易云音乐接口，它们返回的数据都是Json格式的。这因为...

Python JSON 魔法手册:数据转换的终极艺术

对话实录小白：（崩溃）我从API拿到了JSON数据，怎么变成Python对象？专家：（掏出魔法书）用json模块，轻松实现数据转换！JSON基础三连击1.字符串Python对...

Python JSON 详解教程（python json()）

JSON（JavaScriptObjectNotation）是一种轻量级的数据交换格式(lightweightdatainterchangeformat)常用于Web应用、配置文件(co...

Python 数据的 JSON 格式序列化及反序列化

在Python中，将数据转换为JSON格式非常简单，可以使用内置的json模块。json模块提供了json.dumps()和json.dump()方法，用于将Python对象...

如何使Python类可JSON序列化（python json 类）

技术背景在Python开发中，JSON（JavaScriptObjectNotation）是一种常用的数据交换格式。然而，Python的json模块默认只能序列化一些基本数据类型，如字典、列表、字...

详细介绍一下Python如何对JSON格式数据进行处理?

在Python中对于JSON数据的处理是在日常开发中的常见需求之一。通常情况下，对JSON数据的处理主要涉及到如下的的几个步骤对于JSON数据的解析操作对于JSON数据的处理操作对于JSON数据的格式...

Python 字典l转换成 JSON（python转化字典）

本文需要5分钟。如果对您有用可以点赞评论关注.Python字典到JSONJSON(JavaScriptObjectNotation)是一种轻量级的数据交换格式，它基于ECMAScrip...

打造熟悉的VS界面风格（vs界面设计美化）

用惯了老机子的VS界面，换新机子时，各种不适应。现在重新打造老款样式：1）下载VisualStudio2013ColorThemeEditorhttps://marketplace.vis...

办公小技巧:全部亮相 让Excel单元格完全显示文本

平时我们在使用Excel制作表格的时候，经常会遇到由于文本内容较多，导致这些内容无法在一个单元格中完全显示。常规的方法是将单元格设置为“自动换行”，但是这样会影响整个文件的美观。下例是某小区的入住登记...

WinForms 中的 CheckBox 控件使用指南

在WinForms中，CheckBox控件是一个允许用户选择或取消选择的单选按钮。它通常用于表示布尔值（真/假）或允许多选的情况。以下是如何使用CheckBox控件的一些基本信息和示例代码。创建...

图片转文字--四种OCR工具的安装和使用

本文仅测试简单的安装和使用，下一步应该是测试不同数据集下的检测准确率和检测效率，敬请期待。作者的系统环境是：笔记本：ThindPadP520OS：win11显卡：QuadroP520一、EasyO...

C# 给Word每一页设置不同图片水印

Word中设置水印时，可加载图片设置为水印效果，但通常添加水印效果时，会对所有页面都设置成统一效果，如果需要对每一页或者某个页面设置不同的水印效果，则可以参考本文中的方法。下面，将以C#代码为例，对W...

集成的面向对象控件Xtreme Controls正式发布v17.0.0

CodejockXtremeControls为Windows图形用户软件工程师提供众多的有关MFC的控件产品，该产品是通过完全测试并专门为图形用户设计的一款专业控件。它是一款集成了面向对象的控件被...

Win10 Build 10061老问题修复新问题来

|责编：刘菲菲【中关村在线软件资讯】4月23日消息：微软今天正式推送了Windows10Build10061预览版这个版本除了正常的功能更新和调整外，还修复了多个bug。其中一部分对于开发者开...

一周热门
最近发表
标签列表