百度360必应搜狗淘宝本站头条
python判断字典是否为空crontab每周一执行aes和des区别安装指定版本npmadb pull
当前位置：网站首页 > IT知识 > 正文

生产环境H200部署DeepSeek 671B 满血版实战(二):vLLM 安装详解

liuian 2025-03-29 19:27 51 浏览

前言

在上一篇文章生产环境H200部署DeepSeek 671B 满血版全流程实战（一）：系统初始化，我们完成了H200服务器的系统初始化工作，包括驱动安装和CUDA环境配置，为DeepSeek 671B模型的部署奠定了基础。然而，面对单机8卡H200的141GB显存和NVLink高速互联的硬件资源，如何高效利用这些资源实现千亿参数大模型的推理加速，成为关键挑战。　

vLLM 作为一款高性能推理引擎，能够极大提升 DeepSeek 671B 模型在推理阶段的表现，使模型能够更快速、更准确地生成结果，满足生产环境中对实时性和高吞吐量的严苛要求。在本文中，我们将深入探讨如何在 H200 环境中顺利安装并配置 vLLM。　

一、安装vLLM

1. 创建虚拟环境　

为避免依赖冲突，使用Conda创建独立环境：　

conda create -n vllm python=3.10 
conda activate vllm

2. 安装最新版vLLM　

升级pip后直接安装vLLM：　

pip install --upgrade pip 
pip install vllm

验证安装是否成功：　

pip show vllm

二、运行vLLM服务

1. 激活 vllm 环境，确保在 vllm 的 conda 环境中　

conda activate vllm

2. 启动 vLLM 服务： 使用 vllm serve 命令启动 vLLM 服务，并加载 DeepSeek 671B 模型。　

vllm serve /data/DeepSeek-R1 --tensor-parallel-size 8 --max-model-len 16384 --port 8102 --trust-remote-code --served-model-name deepseek-r1 --enable-chunked-prefill --max-num-batched-tokens 2048 --gpu-memory-utilization 0.95

参数说明：　

  • vllm serve /data/DeepSeek-R1: 启动vLLM服务并加载指定模型。
  • --tensor-parallel-size 8: 表示使用 8 块 GPU 并行推理。
  • --max-model-len 16384: 设置模型的最大上下文长度，可以根据 GPU 显存大小调整。
  • --port 8102: 指定服务监听的端口号，可以根据需要修改。
  • --served-model-name deepseek-r1: 在 API 请求中使用该名称来指定要使用的模型。
  • --enable-chunked-prefill：启用分块预填充（Chunked Prefill）优化。
  • --max-num-batched-tokens 2048：限制单次批处理的总token数量。
  • --gpu-memory-utilization 0.95：设置vLLM可使用的显存比例。

3. nvtop监控 　

4. 注意：nvidia-fabricmanager软件包的版本与GPU 驱动版本必须完全一致（包括小版本号），否则vLLM启动时会卡住。　

  • 启动vLLM加载nccl后会卡住，运行systemctl status nvidia-fabricmanager，查看nvidia-fabricmanager错误日志。驱动与GPU版本不匹配有如下报错：

解决办法：生产环境H200部署DeepSeek 671B 满血版全流程实战（一）：系统初始化参考，重新安装nvidia-fabricmanager软件包。　

三、验证服务可用性

通过API接口发送测试请求，确认服务正常运行：　

curl -X POST "http://localhost:8102/v1/chat/completions" \
-H "Content-Type: application/json" \
-d '{
"model": "deepseek-r1",
"messages": [{"role": "user", "content": "写个100字的散文"}]
}'

预期结果：返回模型生成的文本内容，表示服务部署成功。　

四、vLLM服务管理脚本

为方便日常运维，可编写控制脚本实现服务的启动、停止和状态监控。　

脚本功能如下：　

  • 启动服务：自动激活Conda环境并启动vLLM服务。
  • 停止服务：优雅终止所有相关进程，避免残留。
  • 状态检查：查看服务进程、GPU占用及端口监听情况。
#!/bin/bash

# DeepSeek-R1 671B 控制脚本，依据实际情况修改路径脚本
PID_FILE="/data/deepseek.pid"
CONDA_PATH="/home/turboai/miniconda3"
CONDA_ENV="vllm"
LOG_FILE="/data/deepseek.log"
SERVED_MODEL="/data/DeepSeek-R1"
PORT=8102

# 日志函数
log_message() {
echo "$(date '+%Y-%m-%d %H:%M:%S') - $1" >> "$LOG_FILE"
echo "$(date '+%Y-%m-%d %H:%M:%S') - $1"
}

# 检查服务是否运行
check_service() {
# 检查所有相关的vllm进程，包括主进程和子进程
if pgrep -f "python.*vllm.*--port $PORT" > /dev/null || \
pgrep -f "python.*-m.*vllm.*--port $PORT" > /dev/null || \
pgrep -f "multiprocessing.*vllm" > /dev/null || \
pgrep -f "python.*-c.*multiprocessing.*spawn_main" > /dev/null; then
return 0 # 服务正在运行
else
return 1 # 服务未运行
fi
}

# 获取服务PID
get_service_pid() {
# 获取主进程和所有子进程的PID
(pgrep -f "python.*vllm.*--port $PORT" 
pgrep -f "python.*-m.*vllm.*--port $PORT" 
pgrep -f "multiprocessing.*vllm" 
pgrep -f "python.*-c.*multiprocessing.*spawn_main") 2>/dev/null || echo ""
}

# 获取所有相关进程的父进程
get_parent_pids() {
local child_pids=$(get_service_pid)
local parent_pids=""

for pid in $child_pids; do
# 获取父进程ID
local ppid=$(ps -o ppid= -p $pid 2>/dev/null)
if [ -n "$ppid" ]; then
parent_pids="$parent_pids $ppid"
fi
done

echo $parent_pids
}

stop() {
# 检查服务是否在运行
if ! check_service; then
log_message "DeepSeek服务未运行"
rm -f "$PID_FILE" 2>/dev/null
return 0
fi

log_message "正在停止DeepSeek服务..."

# 获取所有相关进程的PID（包括父进程）
PIDS=$(get_service_pid)
PARENT_PIDS=$(get_parent_pids)
ALL_PIDS="$PIDS $PARENT_PIDS"

# 先尝试正常终止所有进程
for PID in $ALL_PIDS; do
if kill -0 $PID 2>/dev/null; then
log_message "正在停止进程 PID: $PID"
kill $PID 2>/dev/null
fi
done

# 等待进程结束
TIMEOUT=30
while [ $TIMEOUT -gt 0 ] && check_service; do
sleep 1
TIMEOUT=$((TIMEOUT-1))
done

# 如果进程仍在运行，强制终止
if check_service; then
log_message "进程未响应，强制终止..."
# 重新获取进程列表，因为可能有些已经终止
PIDS=$(get_service_pid)
PARENT_PIDS=$(get_parent_pids)
ALL_PIDS="$PIDS $PARENT_PIDS"

for PID in $ALL_PIDS; do
if kill -0 $PID 2>/dev/null; then
log_message "强制终止进程 PID: $PID"
kill -9 $PID 2>/dev/null
fi
done
sleep 2

# 使用pkill作为最后的手段
pkill -9 -f "multiprocessing.*vllm" 2>/dev/null
pkill -9 -f "python.*-c.*multiprocessing.*spawn_main" 2>/dev/null
fi

# 最终检查
if check_service; then
log_message "错误: 无法停止所有DeepSeek服务进程"
return 1
else
rm -f "$PID_FILE" 2>/dev/null
log_message "DeepSeek服务已停止"
return 0
fi
}

# 初始化conda环境
init_conda() {
# 确保conda命令可用
if [ ! -f "$CONDA_PATH/etc/profile.d/conda.sh" ]; then
log_message "错误: Conda初始化脚本不存在: $CONDA_PATH/etc/profile.d/conda.sh"
return 1
fi

# 测试conda环境
if ! bash -c "source \"$CONDA_PATH/etc/profile.d/conda.sh\" && conda env list | grep -q \"$CONDA_ENV\""; then
log_message "错误: Conda环境 '$CONDA_ENV' 不存在"
return 1
fi

return 0
}

start() {
# 检查服务是否已在运行
if check_service; then
SERVICE_PID=$(get_service_pid)
log_message "DeepSeek服务已在运行 (PID: $SERVICE_PID)"
echo $SERVICE_PID > "$PID_FILE" # 更新PID文件
return 1
fi

# 检查conda环境
if ! init_conda; then
return 1
fi

log_message "正在启动DeepSeek服务..."

# 启动服务
bash -c "
source \"$CONDA_PATH/etc/profile.d/conda.sh\" && 
conda activate $CONDA_ENV && 
nohup vllm serve \"$SERVED_MODEL\" \
--tensor-parallel-size 8 \
--max-model-len 16384 \
--port $PORT \
--trust-remote-code \
--served-model-name deepseek-r1 \
--enable-chunked-prefill \
--max-num-batched-tokens 2048 \
--gpu-memory-utilization 0.95 >> \"$LOG_FILE\" 2>&1 &"

# 等待服务启动
sleep 5

# 检查服务是否成功启动
if check_service; then
SERVICE_PID=$(get_service_pid)
echo $SERVICE_PID > "$PID_FILE"
log_message "DeepSeek服务启动成功! PID: $SERVICE_PID"
log_message "服务端口: $PORT"
log_message "日志文件: $LOG_FILE"
else
log_message "错误: DeepSeek服务启动失败"
return 1
fi
}

restart() {
log_message "正在重启DeepSeek服务..."
stop
sleep 2
start
}

status() {
if check_service; then
SERVICE_PID=$(get_service_pid)
log_message "DeepSeek服务正在运行 (PID: $SERVICE_PID)"

# 更新PID文件
echo $SERVICE_PID > "$PID_FILE"

# 显示GPU使用情况
if command -v nvidia-smi &> /dev/null; then
log_message "GPU使用情况:"
nvidia-smi --query-compute-apps=pid,used_memory,gpu_uuid --format=csv | grep "$SERVICE_PID" || echo "未找到相关GPU进程"
fi

# 检查端口是否在监听
if command -v ss &> /dev/null; then
log_message "端口状态:"
ss -tulpn | grep ":$PORT " || echo "端口 $PORT 未在监听"
elif command -v netstat &> /dev/null; then
log_message "端口状态:"
netstat -tulpn 2>/dev/null | grep ":$PORT " || echo "端口 $PORT 未在监听"
fi

return 0
else
log_message "DeepSeek服务未运行"
rm -f "$PID_FILE" 2>/dev/null # 清理可能存在的PID文件
return 1
fi
}

# 根据参数执行相应操作
case "$1" in
start)
start
;;
stop)
stop
;;
restart)
restart
;;
status)
status
;;
*)
echo "用法: $0 {start|stop|restart|status}"
echo " start - 启动DeepSeek服务"
echo " stop - 停止DeepSeek服务"
echo " restart - 重启DeepSeek服务"
echo " status - 查看服务状态"
exit 1
esac

exit $?

相关推荐

win10刻录光盘的方法和步骤（win10系统怎么刻录光盘）

1.打开Windows10中的“文件资源管理器”，找到要刻录的文件或文件夹。2.选中文件/文件夹，右键单击选中“发送到-->DVDRW驱动器”。3.确认要刻录的光盘的名称和格式（默...

惠普笔记本电脑官网驱动下载

HP惠普打印机驱动官网是存在的。因为HP惠普是一家著名的电脑及相关产品制造商，他们会提供各种驱动程序和软件以保证设备的兼容性和稳定性。HP惠普打印机驱动官网可以通过搜索引擎查找，也可以通过HP惠普的官...

2025win7专业版激活密钥（2020win7专业版永久激活码）

cad序列号和密钥是111-111111，可以通用的,但激活码则需要通过CAD2014注册机对申请号的换算才能得出结果,当然结果有很多,用户可以不断的Generate一个。cad序列号和密钥是111-...

window7下载itunes什么版本（window7怎么下载itunes）

出现此问题一般是因为itunes没有正确安装，可以参考如下解决方法：1.请查看本机电脑数位，计算机---右键---属性---看是32的还是64的；2.官网下载数位对应的iTunes；3...

u盘什么牌子的好（大容量的u盘什么牌子好）

十大耐用云U盘排行分别是：第一名闪迪第二名雷克沙第三名金士顿第四名三星第五名美商海盗船第六名东芝第七名惠普第八名威刚第九名台电第十名朗科。十大耐用云U盘排行分别是：第一名闪迪第二名雷克沙第三名金士顿第...

英文翻译器下载（英文翻译器软件下载）

APK（全称：Androidapplicationpackage，Android应用程序包）是Android操作系统使用的一种应用程序包文件格式，用于分发和安装移动应用及中间件。一个Android...

oppo主题包下载（oppoi主题下载）

opporeno5壁纸可以选择主题商店下载。1、打开手机设置，点击【个性化定制】，选择壁纸。2、可以选择本地相册、静态壁纸、动态壁纸、ART+，还可以选择主题商店。3、选择自己喜欢的壁纸，点击设置即...

老tplink路由器无线桥接设置图解
  • 老tplink路由器无线桥接设置图解
  • 老tplink路由器无线桥接设置图解
  • 老tplink路由器无线桥接设置图解
  • 老tplink路由器无线桥接设置图解
电脑连接正常却无法上网（电脑网络连接正常但是上不了网无线网正常）
  • 电脑连接正常却无法上网（电脑网络连接正常但是上不了网无线网正常）
  • 电脑连接正常却无法上网（电脑网络连接正常但是上不了网无线网正常）
  • 电脑连接正常却无法上网（电脑网络连接正常但是上不了网无线网正常）
  • 电脑连接正常却无法上网（电脑网络连接正常但是上不了网无线网正常）
硬盘开盘恢复数据（硬盘开盘恢复数据怎样收费）

　　硬盘因为某些原因损坏，比如磁头损坏，用于驱动磁臂移动的电机烧毁等故障，可以通过打开硬盘盘体，更换相应的部件来维修的办法，以便进行数据恢复工作，这也就是一般所说的“开盘”。　　开盘维修必须在无尘环境...

微软surface平板（微软surface平板电脑的降温散热是由风扇进行的吗）

可以。包括微软Surface平板电脑在内的一系列Windows平板，它们搭载的系统都是与电脑完全相同的Windows系统，其界面和操作方式都与电脑无异，并且全面支持电脑EXE应用程序，比如功能完整的O...

怎样恢复电脑删除的文件（怎样恢复电脑删除的文件记录）

文件误删了之后，先停止对电脑上其他文件的操作，然后判断该文件删除方式，如果是普通删除的文件可以打开回收站进行查看，之后进行还原的操作，如果是永久删除的文件，那可以借助到专业的数据恢复软件来进行恢复操作...

win7纯净原版（win7旗舰纯净原版）

windows7ghost纯净版特色：1、专业为电脑制作，定制版系统使笔记本电脑运行更加可靠。2、安装盘经过多名电脑安装人员测试，稳定性和兼容性非常好。3、通过多台不同硬件型号的计算机测试，没有蓝屏，...

电脑摄像头驱动器怎么安装（电脑摄像头的驱动程序）

摄像头驱动的安装方法：首先，先取出摄像头，然后将USB端口插入电脑的端口中。当然，如果是需要长时间使用，建议将其插入后面板上。其次，初次使用摄像头时，系统可能会搜索驱动程序进行安装。那些免驱动的都可以...

win10虚拟机装win7（win10虚拟机怎么装win7）

WIN7系统下是可以安装Win10虚拟机，用户可以按照以下方法安装：1、网上搜索下载安装360软件管家；2、在搜索栏里输入VM，然后在VMwareWorkstation旁点下载，系统会自动安装；3、安...

一周热门
最近发表
标签列表