百度360必应搜狗淘宝本站头条
python判断字典是否为空crontab每周一执行aes和des区别安装指定版本npmadb pull
当前位置：网站首页 > IT知识 > 正文

生产环境H200部署DeepSeek 671B 满血版实战(二):vLLM 安装详解

liuian 2025-03-29 19:27 19 浏览

前言

在上一篇文章生产环境H200部署DeepSeek 671B 满血版全流程实战（一）：系统初始化，我们完成了H200服务器的系统初始化工作，包括驱动安装和CUDA环境配置，为DeepSeek 671B模型的部署奠定了基础。然而，面对单机8卡H200的141GB显存和NVLink高速互联的硬件资源，如何高效利用这些资源实现千亿参数大模型的推理加速，成为关键挑战。　

vLLM 作为一款高性能推理引擎，能够极大提升 DeepSeek 671B 模型在推理阶段的表现，使模型能够更快速、更准确地生成结果，满足生产环境中对实时性和高吞吐量的严苛要求。在本文中，我们将深入探讨如何在 H200 环境中顺利安装并配置 vLLM。　

一、安装vLLM

1. 创建虚拟环境　

为避免依赖冲突，使用Conda创建独立环境：　

Bash
conda create -n vllm python=3.10 
conda activate vllm

2. 安装最新版vLLM　

升级pip后直接安装vLLM：　

Bash
pip install --upgrade pip 
pip install vllm

验证安装是否成功：　

pip show vllm

二、运行vLLM服务

1. 激活 vllm 环境，确保在 vllm 的 conda 环境中　

conda activate vllm

2. 启动 vLLM 服务： 使用 vllm serve 命令启动 vLLM 服务，并加载 DeepSeek 671B 模型。　

vllm serve /data/DeepSeek-R1 --tensor-parallel-size 8 --max-model-len 16384 --port 8102 --trust-remote-code --served-model-name deepseek-r1 --enable-chunked-prefill --max-num-batched-tokens 2048 --gpu-memory-utilization 0.95

参数说明：　

  • vllm serve /data/DeepSeek-R1: 启动vLLM服务并加载指定模型。
  • --tensor-parallel-size 8: 表示使用 8 块 GPU 并行推理。
  • --max-model-len 16384: 设置模型的最大上下文长度，可以根据 GPU 显存大小调整。
  • --port 8102: 指定服务监听的端口号，可以根据需要修改。
  • --served-model-name deepseek-r1: 在 API 请求中使用该名称来指定要使用的模型。
  • --enable-chunked-prefill：启用分块预填充（Chunked Prefill）优化。
  • --max-num-batched-tokens 2048：限制单次批处理的总token数量。
  • --gpu-memory-utilization 0.95：设置vLLM可使用的显存比例。

3. nvtop监控 　

4. 注意：nvidia-fabricmanager软件包的版本与GPU 驱动版本必须完全一致（包括小版本号），否则vLLM启动时会卡住。　

  • 启动vLLM加载nccl后会卡住，运行systemctl status nvidia-fabricmanager，查看nvidia-fabricmanager错误日志。驱动与GPU版本不匹配有如下报错：

解决办法：生产环境H200部署DeepSeek 671B 满血版全流程实战（一）：系统初始化参考，重新安装nvidia-fabricmanager软件包。　

三、验证服务可用性

通过API接口发送测试请求，确认服务正常运行：　

curl -X POST "http://localhost:8102/v1/chat/completions" \
-H "Content-Type: application/json" \
-d '{
"model": "deepseek-r1",
"messages": [{"role": "user", "content": "写个100字的散文"}]
}'

预期结果：返回模型生成的文本内容，表示服务部署成功。　

四、vLLM服务管理脚本

为方便日常运维，可编写控制脚本实现服务的启动、停止和状态监控。　

脚本功能如下：　

  • 启动服务：自动激活Conda环境并启动vLLM服务。
  • 停止服务：优雅终止所有相关进程，避免残留。
  • 状态检查：查看服务进程、GPU占用及端口监听情况。
#!/bin/bash

# DeepSeek-R1 671B 控制脚本，依据实际情况修改路径脚本
PID_FILE="/data/deepseek.pid"
CONDA_PATH="/home/turboai/miniconda3"
CONDA_ENV="vllm"
LOG_FILE="/data/deepseek.log"
SERVED_MODEL="/data/DeepSeek-R1"
PORT=8102

# 日志函数
log_message() {
echo "$(date '+%Y-%m-%d %H:%M:%S') - $1" >> "$LOG_FILE"
echo "$(date '+%Y-%m-%d %H:%M:%S') - $1"
}

# 检查服务是否运行
check_service() {
# 检查所有相关的vllm进程，包括主进程和子进程
if pgrep -f "python.*vllm.*--port $PORT" > /dev/null || \
pgrep -f "python.*-m.*vllm.*--port $PORT" > /dev/null || \
pgrep -f "multiprocessing.*vllm" > /dev/null || \
pgrep -f "python.*-c.*multiprocessing.*spawn_main" > /dev/null; then
return 0 # 服务正在运行
else
return 1 # 服务未运行
fi
}

# 获取服务PID
get_service_pid() {
# 获取主进程和所有子进程的PID
(pgrep -f "python.*vllm.*--port $PORT" 
pgrep -f "python.*-m.*vllm.*--port $PORT" 
pgrep -f "multiprocessing.*vllm" 
pgrep -f "python.*-c.*multiprocessing.*spawn_main") 2>/dev/null || echo ""
}

# 获取所有相关进程的父进程
get_parent_pids() {
local child_pids=$(get_service_pid)
local parent_pids=""

for pid in $child_pids; do
# 获取父进程ID
local ppid=$(ps -o ppid= -p $pid 2>/dev/null)
if [ -n "$ppid" ]; then
parent_pids="$parent_pids $ppid"
fi
done

echo $parent_pids
}

stop() {
# 检查服务是否在运行
if ! check_service; then
log_message "DeepSeek服务未运行"
rm -f "$PID_FILE" 2>/dev/null
return 0
fi

log_message "正在停止DeepSeek服务..."

# 获取所有相关进程的PID（包括父进程）
PIDS=$(get_service_pid)
PARENT_PIDS=$(get_parent_pids)
ALL_PIDS="$PIDS $PARENT_PIDS"

# 先尝试正常终止所有进程
for PID in $ALL_PIDS; do
if kill -0 $PID 2>/dev/null; then
log_message "正在停止进程 PID: $PID"
kill $PID 2>/dev/null
fi
done

# 等待进程结束
TIMEOUT=30
while [ $TIMEOUT -gt 0 ] && check_service; do
sleep 1
TIMEOUT=$((TIMEOUT-1))
done

# 如果进程仍在运行，强制终止
if check_service; then
log_message "进程未响应，强制终止..."
# 重新获取进程列表，因为可能有些已经终止
PIDS=$(get_service_pid)
PARENT_PIDS=$(get_parent_pids)
ALL_PIDS="$PIDS $PARENT_PIDS"

for PID in $ALL_PIDS; do
if kill -0 $PID 2>/dev/null; then
log_message "强制终止进程 PID: $PID"
kill -9 $PID 2>/dev/null
fi
done
sleep 2

# 使用pkill作为最后的手段
pkill -9 -f "multiprocessing.*vllm" 2>/dev/null
pkill -9 -f "python.*-c.*multiprocessing.*spawn_main" 2>/dev/null
fi

# 最终检查
if check_service; then
log_message "错误: 无法停止所有DeepSeek服务进程"
return 1
else
rm -f "$PID_FILE" 2>/dev/null
log_message "DeepSeek服务已停止"
return 0
fi
}

# 初始化conda环境
init_conda() {
# 确保conda命令可用
if [ ! -f "$CONDA_PATH/etc/profile.d/conda.sh" ]; then
log_message "错误: Conda初始化脚本不存在: $CONDA_PATH/etc/profile.d/conda.sh"
return 1
fi

# 测试conda环境
if ! bash -c "source \"$CONDA_PATH/etc/profile.d/conda.sh\" && conda env list | grep -q \"$CONDA_ENV\""; then
log_message "错误: Conda环境 '$CONDA_ENV' 不存在"
return 1
fi

return 0
}

start() {
# 检查服务是否已在运行
if check_service; then
SERVICE_PID=$(get_service_pid)
log_message "DeepSeek服务已在运行 (PID: $SERVICE_PID)"
echo $SERVICE_PID > "$PID_FILE" # 更新PID文件
return 1
fi

# 检查conda环境
if ! init_conda; then
return 1
fi

log_message "正在启动DeepSeek服务..."

# 启动服务
bash -c "
source \"$CONDA_PATH/etc/profile.d/conda.sh\" && 
conda activate $CONDA_ENV && 
nohup vllm serve \"$SERVED_MODEL\" \
--tensor-parallel-size 8 \
--max-model-len 16384 \
--port $PORT \
--trust-remote-code \
--served-model-name deepseek-r1 \
--enable-chunked-prefill \
--max-num-batched-tokens 2048 \
--gpu-memory-utilization 0.95 >> \"$LOG_FILE\" 2>&1 &"

# 等待服务启动
sleep 5

# 检查服务是否成功启动
if check_service; then
SERVICE_PID=$(get_service_pid)
echo $SERVICE_PID > "$PID_FILE"
log_message "DeepSeek服务启动成功! PID: $SERVICE_PID"
log_message "服务端口: $PORT"
log_message "日志文件: $LOG_FILE"
else
log_message "错误: DeepSeek服务启动失败"
return 1
fi
}

restart() {
log_message "正在重启DeepSeek服务..."
stop
sleep 2
start
}

status() {
if check_service; then
SERVICE_PID=$(get_service_pid)
log_message "DeepSeek服务正在运行 (PID: $SERVICE_PID)"

# 更新PID文件
echo $SERVICE_PID > "$PID_FILE"

# 显示GPU使用情况
if command -v nvidia-smi &> /dev/null; then
log_message "GPU使用情况:"
nvidia-smi --query-compute-apps=pid,used_memory,gpu_uuid --format=csv | grep "$SERVICE_PID" || echo "未找到相关GPU进程"
fi

# 检查端口是否在监听
if command -v ss &> /dev/null; then
log_message "端口状态:"
ss -tulpn | grep ":$PORT " || echo "端口 $PORT 未在监听"
elif command -v netstat &> /dev/null; then
log_message "端口状态:"
netstat -tulpn 2>/dev/null | grep ":$PORT " || echo "端口 $PORT 未在监听"
fi

return 0
else
log_message "DeepSeek服务未运行"
rm -f "$PID_FILE" 2>/dev/null # 清理可能存在的PID文件
return 1
fi
}

# 根据参数执行相应操作
case "$1" in
start)
start
;;
stop)
stop
;;
restart)
restart
;;
status)
status
;;
*)
echo "用法: $0 {start|stop|restart|status}"
echo " start - 启动DeepSeek服务"
echo " stop - 停止DeepSeek服务"
echo " restart - 重启DeepSeek服务"
echo " status - 查看服务状态"
exit 1
esac

exit $?

相关推荐

【常识】如何优化Windows 7

优化Windows7可以让这个经典系统运行更流畅，特别是在老旧硬件上。以下是经过整理的实用优化方案，分为基础优化和进阶优化两部分：一、基础优化（适合所有用户）1.关闭不必要的视觉效果右键计算机...

系统优化!Windows 11/10 必做的十个优化配置

以下是为Windows10/11用户整理的10个必做优化配置，涵盖性能提升、隐私保护和系统精简等方面，操作安全且无需第三方工具：1.禁用不必要的开机启动项操作路径：`Ctrl+S...

最好用音频剪辑的软件,使用方法?

QVE音频剪辑是一款简单实用的软件，功能丰富，可编辑全格式音频。支持音频转换、合并、淡入淡出、变速、音量调节等，无时长限制，用户可自由剪辑。剪辑后文件音质无损，支持多格式转换，便于存储与跨设备播放，满...

Vue2 开发总踩坑?这 8 个实战技巧让代码秒变丝滑

前端开发的小伙伴们，在和Vue2打交道的日子里，是不是总被各种奇奇怪怪的问题搞得头大？数据不响应、组件传值混乱、页面加载慢……别慌！今天带来8个超实用的Vue2实战技巧，每一个都能直击痛...

Motion for Vue:为Vue量身定制的强大动画库

在前端开发中，动画效果是提升用户体验的重要手段。Vue生态系统中虽然有许多动画库，但真正能做到高性能、易用且功能丰富的并不多。今天，我们要介绍的是MotionforVue（motion-v），...

CSS view():JavaScript 滚动动画的终结

前言CSSview()方法可能会标志着JavaScript在制作滚动动画方面的衰落。如何用5行CSS代码取代50多行繁琐的JavaScript，彻底改变网页动画每次和UI/U...

「大数据」 hive入门

前言最近会介入数据中台项目，所以会推出一系列的跟大数据相关的组件博客与文档。Hive这个大数据组件自从Hadoop诞生之日起，便作为Hadoop生态体系（HDFS、MR/YARN、HIVE、HBASE...

青铜时代的终结:对奖牌架构的反思

作者|AdamBellemare译者|王强策划|Tina要点运维和分析用例无法可靠地访问相关、完整和可信赖的数据。需要一种新的数据处理方法。虽然多跳架构已经存在了几十年，并且可以对...

解析IBM SQL-on-Hadoop的优化思路

对于BigSQL的优化，您需要注意以下六个方面：1．平衡的物理设计在进行集群的物理设计需要考虑数据节点的配置要一致，避免某个数据节点性能短板而影响整体性能。而对于管理节点，它虽然不保存业务数据，但作...

交易型数据湖 - Apache Iceberg、Apache Hudi和Delta Lake的比较

图片由作者提供简介构建数据湖最重要的决定之一是选择数据的存储格式，因为它可以大大影响系统的性能、可用性和兼容性。通过仔细考虑数据存储的格式，我们可以增强数据湖的功能和性能。有几种不同的选择，每一种都有...

深入解析全新 AWS S3 Tables:重塑数据湖仓架构

在AWSre:Invent2024大会中，AWS发布了AmazonS3Tables：一项专为可扩展存储和管理结构化数据而设计的解决方案，基于ApacheIceberg开放表格...

Apache DataFusion查询引擎简介

简介DataFusion是一个查询引擎，其本身不具备存储数据的能力。正因为不依赖底层存储的格式，使其成为了一个灵活可扩展的查询引擎。它原生支持了查询CSV，Parquet，Avro，Json等存储格式...

大数据Hadoop之——Flink Table API 和 SQL(单机Kafka)

一、TableAPI和FlinkSQL是什么TableAPI和SQL集成在同一套API中。这套API的核心概念是Table，用作查询的输入和输出，这套API都是批处理和...

比较前 3 名Schema管理工具

关注留言点赞，带你了解最流行的软件开发知识与最新科技行业趋势。在本文中，读者将了解三种顶级schema管理工具，如AWSGlue、ConfluentSchemaRegistry和Memph...

大数据技术之Flume

第1章概述1.1Flume定义Flume是Cloudera提供的一个高可用的，高可靠的，分布式的海量日志采集、聚合和传输的系统。Flume基于流式架构，灵活简单。1.2Flume的优点1.可以和...

一周热门
最近发表
标签列表