百度360必应搜狗淘宝本站头条
python判断字典是否为空crontab每周一执行aes和des区别安装指定版本npmadb pull
当前位置：网站首页 > IT知识 > 正文

生产环境H200部署DeepSeek 671B 满血版实战(二):vLLM 安装详解

liuian 2025-03-29 19:27 40 浏览

前言

在上一篇文章生产环境H200部署DeepSeek 671B 满血版全流程实战（一）：系统初始化，我们完成了H200服务器的系统初始化工作，包括驱动安装和CUDA环境配置，为DeepSeek 671B模型的部署奠定了基础。然而，面对单机8卡H200的141GB显存和NVLink高速互联的硬件资源，如何高效利用这些资源实现千亿参数大模型的推理加速，成为关键挑战。　

vLLM 作为一款高性能推理引擎，能够极大提升 DeepSeek 671B 模型在推理阶段的表现，使模型能够更快速、更准确地生成结果，满足生产环境中对实时性和高吞吐量的严苛要求。在本文中，我们将深入探讨如何在 H200 环境中顺利安装并配置 vLLM。　

一、安装vLLM

1. 创建虚拟环境　

为避免依赖冲突，使用Conda创建独立环境：　

conda create -n vllm python=3.10 
conda activate vllm

2. 安装最新版vLLM　

升级pip后直接安装vLLM：　

pip install --upgrade pip 
pip install vllm

验证安装是否成功：　

pip show vllm

二、运行vLLM服务

1. 激活 vllm 环境，确保在 vllm 的 conda 环境中　

conda activate vllm

2. 启动 vLLM 服务： 使用 vllm serve 命令启动 vLLM 服务，并加载 DeepSeek 671B 模型。　

vllm serve /data/DeepSeek-R1 --tensor-parallel-size 8 --max-model-len 16384 --port 8102 --trust-remote-code --served-model-name deepseek-r1 --enable-chunked-prefill --max-num-batched-tokens 2048 --gpu-memory-utilization 0.95

参数说明：　

  • vllm serve /data/DeepSeek-R1: 启动vLLM服务并加载指定模型。
  • --tensor-parallel-size 8: 表示使用 8 块 GPU 并行推理。
  • --max-model-len 16384: 设置模型的最大上下文长度，可以根据 GPU 显存大小调整。
  • --port 8102: 指定服务监听的端口号，可以根据需要修改。
  • --served-model-name deepseek-r1: 在 API 请求中使用该名称来指定要使用的模型。
  • --enable-chunked-prefill：启用分块预填充（Chunked Prefill）优化。
  • --max-num-batched-tokens 2048：限制单次批处理的总token数量。
  • --gpu-memory-utilization 0.95：设置vLLM可使用的显存比例。

3. nvtop监控 　

4. 注意：nvidia-fabricmanager软件包的版本与GPU 驱动版本必须完全一致（包括小版本号），否则vLLM启动时会卡住。　

  • 启动vLLM加载nccl后会卡住，运行systemctl status nvidia-fabricmanager，查看nvidia-fabricmanager错误日志。驱动与GPU版本不匹配有如下报错：

解决办法：生产环境H200部署DeepSeek 671B 满血版全流程实战（一）：系统初始化参考，重新安装nvidia-fabricmanager软件包。　

三、验证服务可用性

通过API接口发送测试请求，确认服务正常运行：　

curl -X POST "http://localhost:8102/v1/chat/completions" \
-H "Content-Type: application/json" \
-d '{
"model": "deepseek-r1",
"messages": [{"role": "user", "content": "写个100字的散文"}]
}'

预期结果：返回模型生成的文本内容，表示服务部署成功。　

四、vLLM服务管理脚本

为方便日常运维，可编写控制脚本实现服务的启动、停止和状态监控。　

脚本功能如下：　

  • 启动服务：自动激活Conda环境并启动vLLM服务。
  • 停止服务：优雅终止所有相关进程，避免残留。
  • 状态检查：查看服务进程、GPU占用及端口监听情况。
#!/bin/bash

# DeepSeek-R1 671B 控制脚本，依据实际情况修改路径脚本
PID_FILE="/data/deepseek.pid"
CONDA_PATH="/home/turboai/miniconda3"
CONDA_ENV="vllm"
LOG_FILE="/data/deepseek.log"
SERVED_MODEL="/data/DeepSeek-R1"
PORT=8102

# 日志函数
log_message() {
echo "$(date '+%Y-%m-%d %H:%M:%S') - $1" >> "$LOG_FILE"
echo "$(date '+%Y-%m-%d %H:%M:%S') - $1"
}

# 检查服务是否运行
check_service() {
# 检查所有相关的vllm进程，包括主进程和子进程
if pgrep -f "python.*vllm.*--port $PORT" > /dev/null || \
pgrep -f "python.*-m.*vllm.*--port $PORT" > /dev/null || \
pgrep -f "multiprocessing.*vllm" > /dev/null || \
pgrep -f "python.*-c.*multiprocessing.*spawn_main" > /dev/null; then
return 0 # 服务正在运行
else
return 1 # 服务未运行
fi
}

# 获取服务PID
get_service_pid() {
# 获取主进程和所有子进程的PID
(pgrep -f "python.*vllm.*--port $PORT" 
pgrep -f "python.*-m.*vllm.*--port $PORT" 
pgrep -f "multiprocessing.*vllm" 
pgrep -f "python.*-c.*multiprocessing.*spawn_main") 2>/dev/null || echo ""
}

# 获取所有相关进程的父进程
get_parent_pids() {
local child_pids=$(get_service_pid)
local parent_pids=""

for pid in $child_pids; do
# 获取父进程ID
local ppid=$(ps -o ppid= -p $pid 2>/dev/null)
if [ -n "$ppid" ]; then
parent_pids="$parent_pids $ppid"
fi
done

echo $parent_pids
}

stop() {
# 检查服务是否在运行
if ! check_service; then
log_message "DeepSeek服务未运行"
rm -f "$PID_FILE" 2>/dev/null
return 0
fi

log_message "正在停止DeepSeek服务..."

# 获取所有相关进程的PID（包括父进程）
PIDS=$(get_service_pid)
PARENT_PIDS=$(get_parent_pids)
ALL_PIDS="$PIDS $PARENT_PIDS"

# 先尝试正常终止所有进程
for PID in $ALL_PIDS; do
if kill -0 $PID 2>/dev/null; then
log_message "正在停止进程 PID: $PID"
kill $PID 2>/dev/null
fi
done

# 等待进程结束
TIMEOUT=30
while [ $TIMEOUT -gt 0 ] && check_service; do
sleep 1
TIMEOUT=$((TIMEOUT-1))
done

# 如果进程仍在运行，强制终止
if check_service; then
log_message "进程未响应，强制终止..."
# 重新获取进程列表，因为可能有些已经终止
PIDS=$(get_service_pid)
PARENT_PIDS=$(get_parent_pids)
ALL_PIDS="$PIDS $PARENT_PIDS"

for PID in $ALL_PIDS; do
if kill -0 $PID 2>/dev/null; then
log_message "强制终止进程 PID: $PID"
kill -9 $PID 2>/dev/null
fi
done
sleep 2

# 使用pkill作为最后的手段
pkill -9 -f "multiprocessing.*vllm" 2>/dev/null
pkill -9 -f "python.*-c.*multiprocessing.*spawn_main" 2>/dev/null
fi

# 最终检查
if check_service; then
log_message "错误: 无法停止所有DeepSeek服务进程"
return 1
else
rm -f "$PID_FILE" 2>/dev/null
log_message "DeepSeek服务已停止"
return 0
fi
}

# 初始化conda环境
init_conda() {
# 确保conda命令可用
if [ ! -f "$CONDA_PATH/etc/profile.d/conda.sh" ]; then
log_message "错误: Conda初始化脚本不存在: $CONDA_PATH/etc/profile.d/conda.sh"
return 1
fi

# 测试conda环境
if ! bash -c "source \"$CONDA_PATH/etc/profile.d/conda.sh\" && conda env list | grep -q \"$CONDA_ENV\""; then
log_message "错误: Conda环境 '$CONDA_ENV' 不存在"
return 1
fi

return 0
}

start() {
# 检查服务是否已在运行
if check_service; then
SERVICE_PID=$(get_service_pid)
log_message "DeepSeek服务已在运行 (PID: $SERVICE_PID)"
echo $SERVICE_PID > "$PID_FILE" # 更新PID文件
return 1
fi

# 检查conda环境
if ! init_conda; then
return 1
fi

log_message "正在启动DeepSeek服务..."

# 启动服务
bash -c "
source \"$CONDA_PATH/etc/profile.d/conda.sh\" && 
conda activate $CONDA_ENV && 
nohup vllm serve \"$SERVED_MODEL\" \
--tensor-parallel-size 8 \
--max-model-len 16384 \
--port $PORT \
--trust-remote-code \
--served-model-name deepseek-r1 \
--enable-chunked-prefill \
--max-num-batched-tokens 2048 \
--gpu-memory-utilization 0.95 >> \"$LOG_FILE\" 2>&1 &"

# 等待服务启动
sleep 5

# 检查服务是否成功启动
if check_service; then
SERVICE_PID=$(get_service_pid)
echo $SERVICE_PID > "$PID_FILE"
log_message "DeepSeek服务启动成功! PID: $SERVICE_PID"
log_message "服务端口: $PORT"
log_message "日志文件: $LOG_FILE"
else
log_message "错误: DeepSeek服务启动失败"
return 1
fi
}

restart() {
log_message "正在重启DeepSeek服务..."
stop
sleep 2
start
}

status() {
if check_service; then
SERVICE_PID=$(get_service_pid)
log_message "DeepSeek服务正在运行 (PID: $SERVICE_PID)"

# 更新PID文件
echo $SERVICE_PID > "$PID_FILE"

# 显示GPU使用情况
if command -v nvidia-smi &> /dev/null; then
log_message "GPU使用情况:"
nvidia-smi --query-compute-apps=pid,used_memory,gpu_uuid --format=csv | grep "$SERVICE_PID" || echo "未找到相关GPU进程"
fi

# 检查端口是否在监听
if command -v ss &> /dev/null; then
log_message "端口状态:"
ss -tulpn | grep ":$PORT " || echo "端口 $PORT 未在监听"
elif command -v netstat &> /dev/null; then
log_message "端口状态:"
netstat -tulpn 2>/dev/null | grep ":$PORT " || echo "端口 $PORT 未在监听"
fi

return 0
else
log_message "DeepSeek服务未运行"
rm -f "$PID_FILE" 2>/dev/null # 清理可能存在的PID文件
return 1
fi
}

# 根据参数执行相应操作
case "$1" in
start)
start
;;
stop)
stop
;;
restart)
restart
;;
status)
status
;;
*)
echo "用法: $0 {start|stop|restart|status}"
echo " start - 启动DeepSeek服务"
echo " stop - 停止DeepSeek服务"
echo " restart - 重启DeepSeek服务"
echo " status - 查看服务状态"
exit 1
esac

exit $?

相关推荐

搭建一个20人的办公网络（适用于20多人的小型办公网络环境）

楼主有5台机上网，则需要一个8口路由器，组网方法如下：设备：1、8口路由器一台，其中8口为LAN（局域网）端口，一个WAN（广域网）端口，价格100--400元2、网线N米，这个你自己会看了：）...

笔记本电脑各种参数介绍（笔记本电脑各项参数新手普及知识）

1、CPU：这个主要取决于频率和二级缓存，频率越高、二级缓存越大，速度越快，现在的CPU有三级缓存、四级缓存等，都影响相应速度。2、内存：内存的存取速度取决于接口、颗粒数量多少与储存大小，一般来说，内...

汉字上面带拼音输入法下载（字上面带拼音的输入法是哪个）

使用手机上的拼音输入法打成汉字的方法如下：1.打开手机上的拼音输入法，在输入框中输入汉字的拼音，例如“nihao”。2.根据输入法提示的候选词，选择正确的汉字。例如，如果输入“nihao”，输...

xpsp3安装版系统下载（windowsxpsp3安装教程）

xpsp3纯净版在采用微软封装部署技术的基础上，结合作者的实际工作经验，融合了许多实用的功能。它通过一键分区、一键装系统、自动装驱动、一键设定分辨率，一键填IP，一键Ghost备份(恢复)等一系列...

没有备份的手机数据怎么恢复

手机没有备份恢复数据方法如下1、使用数据线将手机与电脑连接好，在“我的电脑”中可以看到手机的盘符。　　2、将手机开启USB调试模式。在手机设置中找到开发者选项，然后点击“开启USB调试模式”。　　3、...

电脑怎么激活windows11专业版

win11专业版激活方法有多种，以下提供两种常用的激活方式：方法一：使用激活密钥激活。在win11桌面上右键点击“此电脑”，选择“属性”选项。进入属性页面后，点击“更改产品密钥或升级windows”。...

华为手机助手下载官网（华为手机助手app下载专区）

华为手机助手策略调整，已不支持从应用市场下载手机助手，目前华为手机助手是需要在电脑上下载或更新手机助手到最新版本，https://consumer.huawei.com/cn/support/his...

光纤线断了怎么接（宽带光纤线断了怎么接）

宽带光纤线断了可以重接，具体操作方法如下：1、光纤连接的时候要根据束管内，同色相连，同芯相连，按顺序进行连接，由大到小。一般有三种连接方法，分别是熔接、活动连接和机械连接。2、连接的时候要开剥光缆，抛...

深度操作系统安装教程（深度操作系统安装教程图解）
  • 深度操作系统安装教程（深度操作系统安装教程图解）
  • 深度操作系统安装教程（深度操作系统安装教程图解）
  • 深度操作系统安装教程（深度操作系统安装教程图解）
  • 深度操作系统安装教程（深度操作系统安装教程图解）
win7旗舰版和专业版区别（win7旗舰版跟专业版）

1、功能区别：Win7旗舰版比专业版多了三个功能，分别是Bitlocker、BitlockerToGo和多语言界面； 2、用途区别：旗舰版的功能是所有版本中最全最强大的，占用的系统资源，...

万能连接钥匙（万能wifi连接钥匙下载）

1、首先打开wifi万能钥匙软件，若手机没有开启WLAN，就根据软件提示打开WLAN开关;2、打开WLAN开关后，会显示附近的WiFi，如果知道密码，可点击相应WiFi后点击‘输入密码’连接;3、若不...

雨林木风音乐叫什么（雨林木风是啥）

雨林木风的创始人是陈年鑫先生。陈年鑫先生于1999年创立了雨林木风公司，其初衷是为满足中国市场对高品质、高性能电脑的需求。在陈年鑫先生的领导下，雨林木风以技术创新、产品质量和客户服务为核心价值，不断推...

aics6序列号永久序列号（aics6破解序列号）

关于AICS6这个版本，虽然是比较久远的版本，但是在功能上也是十分全面和强大的，作为一名平面设计师的话，AICS6的现有的功能已经能够应付几乎所有的设计工作了……到底AICC2019的功能是不是...

win7正在启动windows 卡住（win7正在启动windows卡住了 进入安全模式）
  • win7正在启动windows 卡住（win7正在启动windows卡住了 进入安全模式）
  • win7正在启动windows 卡住（win7正在启动windows卡住了 进入安全模式）
  • win7正在启动windows 卡住（win7正在启动windows卡住了 进入安全模式）
  • win7正在启动windows 卡住（win7正在启动windows卡住了 进入安全模式）
手机可以装电脑系统吗（手机可以装电脑系统吗怎么装）

答题公式1：手机可以通过数据线或无线连接的方式给电脑装系统。手机安装系统需要一定的技巧和软件支持，一般需要通过数据线或无线连接的方式与电脑连接，并下载相应的软件和系统文件进行安装。对于大部分手机用户来...

一周热门
最近发表
标签列表