大模型学习机服务启停最佳实践 本文将为您介绍如何使大模型学习机服务启停 前提条件 学习机内通过docker容器的方式部署了textgenerationwebui与stablediffusionwebui两套框架的运行环境. 可以通过以下命令进行查看: docker ps a 网页服务的进程在容器内启动, 框架代码与模型放置在本机的/root目录下, 通过挂载的方式传入到容器中。 您无需进入容器执行操作, 只需要直接操作/root/textgenerationwebui和/root/stablediffusionwebui下的文件即可将改动同步到容器内部。 停止服务 直接停止 Docker 容器,即可停止对应的服务, 可选择执行以下命令: docker stop llama docker stop stablediffusion 重启服务 通过执行预置的重启脚本启动容器与服务, 可选择执行以下命令: sh /root/restartllamawebui.sh sh /root/restartsdwebui.sh 也可以只重启容器, 不启动服务, 随后手动进入容器启动服务。 此方式可以用来查看框架的具体执行日志, 以便于追查问题等。 sh /root/dockerrunllama.sh sh /root/dockerrunsd.sh 随后手动进入容器, 启动服务, 以llama为例: docker exec it llama bash cd /root/textgenerationwebui sh run.sh 此时会在命令行界面打印日志. 如果关闭命令行界面或者通过ctrl + c终止命令, 则会关闭服务。