使用大模型学习机微调自己的文本生成模型 由于huggingface.io网站访问受限,学习机在启动服务时需要检查是否在启动脚本run.sh里写入了export HF_HUB_OFFLINE=1,否则在训练启动和结束时都会自动访问huggingface网站导致超时失败。 4.5 加载微调过的模型 完成训练后,LoRA小模型会被保存到/root/text-generation-webui/loras目录下。 注意训练完成后已加载进显存/内存的基础大模型也已经受到了训练的影响,需要先进行模型reload恢复初始状态, 再进行其他任何操作。