步骤二:在线推理登录GPU云主机,根据如下步骤执行推理任务。#进入/opt/llama目录并执行sh run.sh命令 cd /opt/llama && sh run.sh #根据提示在 ”please input your question :” 后输入推理问题注意大模型推理场景下不同模型多于显卡显存和云盘的大小都有一定要求。
详细请参考云日志服务产品文档。云审计云审计全面记录云搜索服务的核心操作事件,支持操作历史查询与审计回溯。详细请参考云审计产品文档。统一身份认证服务(Identity and Access Management,简称IAM)云搜索服务使用天翼云官网统一身份认证服务进行身份鉴权。详细请参考统一身份认证服务产品文档。