Open WebUI及vLLM版本升级最佳实践
更新时间 2025-05-13 11:01:50
最近更新时间: 2025-05-13 11:01:50
在使用GPU云主机进行推理时,vLLM版本会影响计算性能与功能支持,Open WebUI版本关系着用户交互体验与功能兼容性。本文提供完整升级指南,进一步保证系统稳定性、界面功能完整及性能最优。
一、Open WebUI升级指南
1. 查看现有版本
docker exec -it open-webui bash -c "cat /app/package.json|grep version"
2.版本升级
(1)登录云主机,下载最新容器镜像
docker pull ghcr.nju.edu.cn/open-webui/open-webui:v0.6.5
(2)删除旧镜像
查看当前容器镜像
删除旧容器镜像
docker image rm ghcr.nju.edu.cn/open-webui/open-webui:cuda
查看更新后的容器镜像
3.修改启动open-webui命令参数
vi /root/.start_webui.sh
修改后内容如图
4.清理容器
docker ps -a
docker rm -f open-webui
二、vLLM升级指南
1. 查看现有版本
#如果环境是pip安装的请执行
pip show vllm
# 如果是pip3安装的请执行
# pip3 show vllm
2.版本升级
(1)指定版本号升级vLLM
# 例如要升级vllm到0.8.5
# 如果是pip安装的执行:
pip install vllm==0.8.5
# 如果是pip3安装的执行
# pip3 install vllm==0.8.5
(2)查看是否升级成功
# 如果是pip安装的执行
pip show vllm
# 如果是pip3安装的执行
# pip3 show vllm