注意事项 5.6升级至5.7成功后，为避免连续升级后出现问题难恢复、难定位，后台默认需要一天的观察期，也请您在升级后在12小时内及时对业务进行验证，升级成功一天后即可继续对升级5.7成功的实例继续升级至8.0。如果前序升级成功一天后继续升级预检查报错，您可提交工单让运维人员解决此问题。 下发RDS for MySQL 5.7升级至8.0前，需进行预检查，请注意以下内容： − 预检查耗时与表数量相关，请您尽量在业务低峰期执行。 − 检查报告保留24小时，请及时下载。 − “检查参数”项失败时，请根据检查详情中的检查项，对照表 升级预检查项及修复建议进行修复，级别为error的检查项，必须修复才可升级，级别为warning的检查项，请知悉升级前后该内核特性的变化。 − 修复后需单击“重新检查”，获取新的检查结果。 只能从5.7的最新小版本升级到8.0的最新小版本。请先确认5.7版本已经是最新小版本，才能继续大版本升级。 大版本升级操作建议避开执行备份的时间窗。 升级大版本前建议先做一次全量备份。 升级数据库大版本过程将造成约10~120秒的业务中断，请确保您的应用有自动重连机制。请在业务低峰期执行该操作，在业务高峰期执行会导致升级时长变长。当前大版本升级为了保证数据完整性会在下发升级后几分钟内重启数据库进程，预计中断1分钟左右。如果您选择的是可维护时间段内升级，请注意此中断发生在可维护时间窗之前。 升级主实例大版本时，如有只读实例，也会同步升级只读实例的大版本（不支持单独升级只读实例的大版本）。 升级大版本后，实例会升级到新的内核大版本，不支持降级。 请务必仔细对比升级前后版本差异，建议您新建一个RDS for MySQL 5.7或8.0版本实例进行语法测试，避免应用使用的低版本语法或特性在升级高版本后不支持。 建议您将原实例数据恢复到新实例上面，先使用新实例进行升级测试，确认各项功能正常后再升级原实例。 内核大版本升级期间，自动扩容不生效，需要确保实例预留了足够的空间支撑升级过程中的业务写入。 大版本升级定时任务需预准备，设置后不可取消。 升级大版本后，升级前的备份将不可用于新版本实例，时间点恢复功能将不能选择升级前的时间点。 大版本升级过程中禁止event的DDL操作，如create event、drop event和alter event。 大版本升级后，规格参数会恢复到升级版本的默认值，包括以下参数：threadpoolsize、innodbbufferpoolsize、innodbiocapacity、innodbiocapacitymax、innodbbufferpoolinstances、backlog、maxconnections。 5.7版本和8.0版本实例存在相同参数取值范围不一样的情况，例如参数“maxexecutiontime”如果在5.7版本中设置为小于60000，大版本升级后将恢复成默认值0，这是因为8.0版本该参数最小值只能为60000。 MySQL大版本升级耗时与实例的数据量和表数量有关。

失败原因 处理建议 源库的版本号不符合要求，大版本号不能低于5.6。 目标库的版本号不符合要求，大版本号不能低于5.6。 源库和目标库的版本大小不符合要求，当前源库的大版本号大于目标库的大版本号。 请确保源库和目标库的MySQL版本在要求范围内，且目标库版本不小于源库版本，如果是双向同步则要求源库和目标库大版本号一致。

AI大数据协同 依托强大的自研防护集群优势，结合 AI 智能引擎持续优化防护策略等多维算法，实现大数据联动防护 通过多维度的频率控制、多重的人机挑战，叠加AI离线分析能力，精准识别虚假流量，高效过滤垃圾访问，保障大规模CC攻击时网站稳定运行 极简管理 CNAME接入，源端隐藏，提供可视化自助管理界面，对自身业务一目了然 7X24小时全网监控+智能调度服务，避免单点故障，保证业务稳定性 7X24小时服务，一对一专业安全运营对接，响应时长不超过30分钟

产品名称 规格类型 功能适用 系统支持 普通AI云电脑 2核4G 120GB SAS 系统盘 性能强劲，满足企业安全办公、大内存软件运行、多任务处理、数据分析、高效运维等需求 Windows、Ubuntu、CentOS 普通AI云电脑 2核8G 120GB SAS 系统盘 性能强劲，满足企业安全办公、大内存软件运行、多任务处理、数据分析、高效运维等需求 Windows、Ubuntu、CentOS 普通AI云电脑 4核8G 120GB SAS 系统盘 性能强劲，满足企业安全办公、大内存软件运行、多任务处理、数据分析、高效运维等需求 Windows、Ubuntu、CentOS 普通AI云电脑 4核16G 120GB SAS 系统盘 性能强劲，满足企业安全办公、大内存软件运行、多任务处理、数据分析、高效运维等需求 Windows、Ubuntu、CentOS 普通AI云电脑 8核16G 120GB SAS 系统盘 性能强劲，满足企业安全办公、大内存软件运行、多任务处理、数据分析、高效运维等需求 Windows、Ubuntu、CentOS 普通AI云电脑 8核32G 120GB SAS 系统盘 性能强劲，满足企业安全办公、大内存软件运行、多任务处理、数据分析、高效运维等需求 Windows、Ubuntu、CentOS 普通AI云电脑 16核32G 120GB SAS 系统盘 性能强劲，满足企业安全办公、大内存软件运行、多任务处理、数据分析、高效运维等需求 Windows、Ubuntu、CentOS 普通AI云电脑 16核64G 120GB SAS 系统盘 性能强劲，满足企业安全办公、大内存软件运行、多任务处理、数据分析、高效运维等需求 Windows、Ubuntu、CentOS 普通AI云电脑 32核64G 120GB SAS 系统盘 性能强劲，满足企业安全办公、大内存软件运行、多任务处理、数据分析、高效运维等需求 Windows、Ubuntu、CentOS 普通AI云电脑 32核128G 120GB SAS 系统盘 性能强劲，满足企业安全办公、大内存软件运行、多任务处理、数据分析、高效运维等需求 Windows、Ubuntu、CentOS 普通AI云电脑 64核128G 120GB SAS 系统盘 性能强劲，满足企业安全办公、大内存软件运行、多任务处理、数据分析、高效运维等需求 Windows、Ubuntu、CentOS 120 GB SAS 系统盘 80 GB 默认系统盘 + 40 GB 赠送存储

如果您需要添加云搜索服务（CSS）、数据湖探索（DLI）和Hive的资产，可参考本章节进行操作。 前提要求 已完成大数据资产委托授权，参考云资源委托授权/停止授权进行操作。 已开通CSS和DLI服务，且CSS和DLI中已有资产，且对应子网下含有可用的IP配额。 操作步骤 1. 登录管理控制台。 2. 单击左上角的，选择区域或项目。 3. 单击左侧导航树的，选择“安全 >数据安全中心”，进入数据安全中心总览界面。 4. 在左侧导航树中选择“资产列表”，并选择“大数据”页签，进入大数据资产列表页面。 5. 在大数据资产列表左上角，单击“添加大数据源”。 6. 在弹出的“添加大数据源”对话框中，参考下表配置大数据源参数。 参数名称 参数说明 取值样例 资产名称 自定义参数。 区域 默认为当前帐号登录的区域。 大数据类型 选择大数据类型。 “Elasticsearch”，选择此类型时，其他参数说明请参见“Elasticsearch”参数说明。 “DLI”，选择此类型时，其他参数说明请参见“DLI”参数说明。 “Hive”，选择此类型时，其他参数说明请参见“Hive”参数说明。 Elasticsearch “Elasticsearch”参数说明： 参数名称 参数说明 取值样例 ES实例 在下拉框中选择ES实例。 版本 选择大数据类型对应的版本。 5.x 主机 大数据源服务器IP地址。 192.168.0.233 端口 大数据源服务器的端口号。 3306 索引 输入大数据源对应的index。 用户名 输入访问大数据服务器的用户名。 密码 输入访问大数据服务器的密码。 “DLI”参数说明： 参数名称 参数说明 取值样例 队列 在下拉框中选择DLI中数据源的队列名称。 default DLI数据库 选择DLI中目标队列下的数据库名称。 5.x “Hive”参数说明： 参数名称 参数说明 取值样例 虚拟私有云 在下拉框中选择虚拟私有云。 子网 选择虚拟私有云对应的子网名称。 安全组 在下拉框中选择可用的安全组。 主机 大数据源服务器IP地址。 192.168.0.233 端口 大数据源服务器的端口号。 3306 数据库名称 输入数据库名称。 7. 单击“确定”，大数据源资产添加完成。 大数据资产添加完成后，该大数据源的状态“连通性”为“检查中”，DSC会测试数据源的连通性，即测试DSC是否能够通过您配置的用户名和密码正常访问添加的大数据源。 数据安全中心DSC能正常访问已添加的大数据源，该大数据源的状态“连通性”状态为“成功”。 若数据安全中心DSC不能正常访问已添加的大数据源，该大数据源的“连通性”状态为“失败”。单击“原因”查看失败的原因并重新正确填写访问目标大数据源的用户名和密码。

本文主要介绍如何通过Model API访问大模型服务。 概述 针对大模型服务访问场景，Model API提供高度灵活和智能的路由配置与调试能力，内置丰富的路由插件，提供消费者鉴权、限流熔断和AI可观测等能力。本文主要介绍如何通过Model API访问大模型服务。 前置条件 1. 已创建AI网关实例，具体操作，请参见创建网关实例。 2. AI网关实例与大模型服务网络已打通。如大模型服务为公网服务，需为AI网关实例所在VPC创建公网NAT网关，请参考NAT网关文档。 创建大模型服务 1. 打开AI网关控制台实例页面，在顶部菜单栏选择目标实例所在地域，并单击目标实例ID。 2. 在左侧导航栏，单击服务，然后单击创建服务。 3. 配置基本信息。 在弹窗中先选择服务来源为“LLM服务”，随后编辑其余配置。 ● 服务名称： 自定义服务名称。 ● 大模型供应商： 支持息壤、DeepSeek、OpenAI兼容（OpenAI Compatible）、百炼。 ● 服务地址(baseurl)：大模型服务的BaseURL。 ● APIKEY：访问大模型需要的APIKEY凭证。APIKEY的获取请咨询对应服务供应商。 4. 配置完成后单击确定，完成创建。 创建Model API 1. 打开AI网关控制台实例页面，在顶部菜单栏选择目标实例所在地域，并单击目标实例ID。 2. 在左侧导航栏，单击Model API，然后单击创建Model API。 3. 选择使用场景，并单击对应的创建按钮。 不同场景对应的协议和系统自动创建的默认路由可能不同，当前支持文本生成、图片生成、文本排序（Rerank）、向量化（Embedding）。 4. 配置基本信息。 ● API名称：自定义API名称，支持中文、英文、数字、下划线“”、“”，且不超过64个字符。 ● 协议：每个协议对应该场景下的一组默认路由。 ● 路由：协议对应的默认路由。 ● BasePath：API的基本请求路径，默认为/。默认启用转发至后端服务时移除。 说明 当转发至后端服务时移除开启后，请求转发至后端服务，系统会自动移除请求部分中的BasePath部分。如： ●BasePath设置为/api ●原始请求路径为/api/chat/completions ●实际转发到后端的路径为/chat/completions ● 域名：访问API的域名，支持同时配置多个域名。 ● 描述：API的描述信息，最长不超过256个字符。 ● 后端服务：场景支持单模型服务、多模型服务。单模型服务：选择一个大模型服务，支持设置模型名称或透传模型名称；多模型服务：选择多个大模型服务并设置权重，支持设置模型名称或透传模型名称。 5. 确认配置参数并单击确定完成创建。

本文介绍如何订购大模型安全测评套餐。 操作步骤 1. 选择“大模型安全测评”。 2. 单击“立即购买”后，在配置清单中选择要购买的大模型安全测评套餐和数量，单击“立即购买”。 3. 确定订单信息之后，单击“立即支付”。 支付后显示支付成功。

本文向您介绍如何修改大模型学习机的登录密码。 本文向您介绍如何修改大模型学习机的登录密码，以下为修改大模型学习机的登录密码的文字教程。 1. 在云主机控制台，选择您购买云主机的地域，点击云主机的操作更多重置密码。 2. 点击“远程登录”按钮。 3. 进入虚机内部，输入 root 回车，在password处输入刚刚修改的密码（密码不可见，请输入完直接回车）。 4. 点击右上角的“粘贴输入”，在输入框中粘贴以下指令，点击“确定发送”，点击虚机屏幕后回车发送指令。 修改文本大模型密码指令： plaintext vim /root/textgenerationwebui/gradioauth.txt 或 修改图像生成大模型密码指令： plaintext vim /root/stablediffusionwebui/gradioauth.txt 进入修改对应大模型登录密码界面。 5. 改user和user后的密码后，按Esc退出编辑模式。再次点击右上角的“粘贴输入”，在输入框中粘贴 :wq 指令，点击“确定发送”，点击虚机屏幕后回车发送指令。返回以下内容表示修改成功。 6. 再次点击右上角的“粘贴输入”，在输入框中依次粘贴输入以下命令，“确认发送”后点击虚机屏幕，回车。使修改的大模型密码登录密码生效。 plaintext cd /root plaintext sh restartllamawebui.sh plaintext sh restartsdwebui.sh 此时密码修改成功，您可以通过使用修改后的密码登录大模型。

Model API 专为高效实现大模型代理而设计，提供大模型代理、鉴权、可观测、策略与插件等能力。若您需要安全、高效的调用大模型服务，建议选择此类型。 MCP 服务 MCP（Model Context Protocol）是一种开源协议，旨在实现大语言模型与外部数据源和工具的集成，用来在大模型和数据源之间建立安全双向的连接，AI网关支持直接代理MCP 服务。若您需要对MCP服务的访问协议和入口实施统一管控，建议选择此类型。 Agent API 专为解决AI应用的协同和管理问题，可以作为AI应用的统一代理，提供丰富的流量治理策略和安全能力。若您需要统一纳管AI应用的访问入口，建议选择此类型。

注意事项 5.6升级至5.7成功后，为避免连续升级后出现问题难恢复、难定位，后台默认需要一天的观察期，也请您在升级后在12小时内及时对业务进行验证，升级成功一天后即可继续对升级5.7成功的实例继续升级至8.0。如果前序升级成功一天后继续升级预检查报错，您可提交工单让运维人员解决此问题。 升级大版本前建议先做一次全量备份。 升级数据库大版本过程将造成约10~120秒的业务中断，请确保您的应用有自动重连机制。请在业务低峰期执行该操作，在业务高峰期执行会导致升级时长变长。 升级主实例大版本时，如有只读实例，也会同步升级只读实例的大版本，升级大版本过程将造成不超过五分钟的业务中断，请您选择合适的时间升级（不支持单独升级只读实例的大版本）。 升级大版本后，实例会升级到新的内核大版本，不支持降级。 请务必仔细对比升级前后版本差异，如有必要建议新建一个RDS for MySQL 5.7版本实例进行语法测试，避免应用使用的低版本语法或特性在升级高版本后不支持。 建议您克隆原实例，先使用克隆实例进行升级测试，确认各项功能正常后再升级原实例。 内核大版本升级期间需要确保实例预留了足够的空间支撑升级过程中的业务写入。 大版本升级定时任务需预准备，设置后不可取消。 升级大版本后，升级前的备份将不可用于新版本实例，时间点恢复功能将不能选择升级前的时间点。 大版本升级过程中禁止event的DDL操作，如create event、drop event和alter event。 大版本升级后，规格参数会恢复到升级版本的默认值，包括以下参数：threadpoolsize、innodbbufferpoolsize、innodbiocapacity、innodbiocapacitymax、innodbbufferpoolinstances、backlog、maxconnections。 MySQL大版本升级耗时与实例的数据量和表数量有关。

本节介绍智算安全专区相关术语。 大模型安全卫士 RAG RAG（RetrievalAugmented Generation，检索增强生成）是一种将信息检索系统与大语言模型的生成能力相结合的技术框架。 OpenAI API规范 是由OpenAI提供的一套接口规范，围绕Chat Completions API构建，这是一种基于HTTP的RESTful接口，允许开发者与大语言模型（如GPT系列）进行交互。 大模型安全测评 OpenAI API规范 是由OpenAI提供的一套接口规范，围绕Chat Completions API构建，这是一种基于HTTP的RESTful接口，允许开发者与大语言模型（如GPT系列）进行交互。 大模型安全护栏 大模型（LLM） 大型语言模型（Large Language Model）的简称，如GPT、文心一言、通义千问等 AI 对话模型。 护栏（Guardrail） 对大模型输入输出进行安全检测与过滤的机制，防止模型产生有害或违规内容。 提示注入攻击（Prompt Injection） 攻击者通过在输入内容中构造特殊指令，试图操控大模型执行非预期行为或绕过安全限制。 应用（Application） 大模型安全护栏中的管理单元，每个应用对应一套独立的 API 调用凭证与安全策略。 代答库 预先配置的应答模板集合，当检测到风险内容被拦截时，系统从代答库中随机选取一条回复返回给用户。 词库 用户自定义的关键词集合，分为黑名单词库（触发拦截）和白名单词库（豁免检测）两类。

3.3 查看 DeepSeek 大 EP 服务状态 可通过 slurm 命令squeue查看作业运行信息： plaintext $ squeue JOBID PARTITION NAME USER ST TIME NODES NODELIST(REASON) 892 batch coordina root R 2:43 8 hpcep910bcompute[00010007],hpcep910bmaster0001 893 batch controll root R 2:43 8 hpcep910bcompute[00010007],hpcep910bmaster0001 889 batch prefill root R 2:46 2 hpcep910bcompute0001,hpcep910bmaster0001 890 batch prefill root R 2:46 2 hpcep910bcompute[0003,0006] 891 batch decode root R 2:46 4 hpcep910bcompute[0002,00040005,0007] 注意 可在/home/lsepdeepseek/logs目录中查看当前作业的日志文件。 3.4 停止 DeepSeek 大 EP 服务 执行以下命令即可停止 DeepSeek 大 EP 服务： plaintext $ sh lsepstop.sh 如需清理历史 DeepSeek 大 EP 服务的所有日志，可执行： plaintext $ sh lsepclean.sh 注意 ascend目录下会生成大量日志文件，可能占用较多磁盘空间，建议定期清理。 四、大模型服务调用 4.1 API 接口调用 当前大 EP 方案中，模型信息端口与推理服务端口分离，默认端口设置如下： 模型信息接口： 推理服务端口：3025 推理服务 API 接口： 其中，[IP1]为步骤 2.1 中配置的 coordinator 服务部署节点的 IP 地址。

no python env in /usr/bin. clearlogs failed ! " fi 清空历史记录。 rm f /root/.pythonhistory rm f /root/.bashhistory rm f /root/.wgethsts 使用大模型镜像进行模型快速部署 步骤一：创建GPU云主机 登录天翼云控制台，进入弹性云主机主机订购页，选择计算加速型GPU云主机，在公共镜像中选择大模型镜像 LLaMA27BChat。 大模型镜像 LLaMA27BChat最低规格推荐：p2v.2xlarge.4 8vCPU 32GB内存 单张v100 GPU。 步骤二：在线推理 登录GPU云主机，根据如下步骤执行推理任务。 plaintext 进入/opt/llama目录并执行sh run.sh命令 cd /opt/llama && sh run.sh 根据提示在 ”please input your question :” 后输入推理问题 注意 大模型推理场景下不同模型多于显卡显存和云盘的大小都有一定要求。

优势： 超强写入： 相比于其他NoSQL服务，拥有超强写入性能。 大数据分析： 结合Spark等工具，可以用于实时推荐等大数据场景。 金融行业 云数据库 GeminiDB结合Spark等大数据分析工具，可应用于金融行业的风控体系，构建反欺诈系统。 优势： 大数据分析： 结合Spark等工具，可以进行实时的反欺诈检测。

本文向您介绍如何使用大模型学习机的文本生成模型微调。 说明 模型训练涉及到较多的专业知识, 这里以Llama 2的LoRA微调为例给出一版示例。 1. 模型微调简介 由于基础大模型参数量极多, 训练需要的资源量极大, 因此基于基础大模型进行微调的小模型应运而生。 LoRA技术便是其中最主流的一种。 LoRA小模型无法独立使用, 需要在加载完基础大模型后再进行加载, 对基础大模型的能力进行扩展。 已有LoRA模型如何加载可参考文本生成模型使用最佳实践。 (1) 准备训练数据 支持多种格式, 主要分为格式化数据与原始文本数据。 格式化数据以alpacachatformat为例, 数据以json方式进行组织, 每条数据分为instruction,input, output三个部分。 原始文本数据直接将文章或对话的原文作为输入, 框架自动进行切分和训练。 下面以普通txt文本文件为例, 介绍后续训练过程。 (2) 上传数据到云主机 windows系统使用命令提示符, macos/linux系统使用终端, 执行scp命令将数据文件上传到云主机的/root/textgenerationwebui/training/datasets目录下。 scp [本机文件路径] root@[ip]:/root/textgenerationwebui/training/datasets

前言——私有知识库作用简介 大模型私有知识库是结合大语言模型技术与企业或组织自有数据的一种知识管理和应用方案，旨在为特定用户群体提供更精准、专业且安全的知识服务。 大模型私有知识库是基于大语言模型构建的，专门服务于特定组织或个人的知识存储和检索系统。它整合组织内部的专业知识、业务数据、历史文档等，形成专属知识集合，借助大模型的强大语言理解和生成能力，为用户提供高效的知识查询和问答服务。 本教程提供一种基于开源框架的私有知识库搭建方案。如果需要构建企业级服务且对数据安全有需求，则需相关企业对该服务进行定制，以完成私有知识库的搭建。 本文介绍的方法采用了开源框架自带的数据库服务，但该方法不保证相关数据在开源框架下的安全性。请务必在上传前对敏感数据进行脱敏处理。 本教程使用的GPU云主机规格如下所示，用于部署 DeepSeekr1:70b 模型，配置仅供参考。 plaintext cpu 32核  内存 128G GPU: NVIDIA A102 (48GB) 如需体验其它模型版本，请参考在天翼云使用Ollama运行 DeepSeek的最佳实践7b版弹性云主机最佳实践AIGC实践 天翼云自定义部署DeepSeek步骤二：规格选型，选择合适的云主机。

本页面主要介绍MySQL社区版本及关系数据库MySQL版本的生命周期。 说明 内核版本到期后，仅影响内核小版本的更新，不影响实例的新购和使用，版本新购等问题请关注并以对应公告为准。 天翼云关系数据库MySQL版在MySQL社区版本生命周期的基础上，延长了支持时间。在延长期内，天翼云会持续发布新的版本，新版本仅限于对严重影响实例安全和稳定性的问题进行修复。由于MySQL社区对安全类问题采取了保密处理，天翼云无法承诺修复所有严重的安全和稳定性问题。 延长支持时间的主要目的是为用户升级MySQL大版本提供更充裕的时间。在延长支持期间，我们仍建议用户升级大版本，以确保获得更全面的功能和安全保障。有关升级大版本的操作方法，请参见“升级数据库版本”。 MySQL社区主要大版本的生命周期时间以及MySQL的生命周期时间如下表所示。 说明 下表中的部分时间为预计时间，将会在生命周期结束或MySQL停止支持前进行修正，具体请以实际时间为准。 数据库大版本 社区发布时间 社区生命周期结束时间 停止支持时间 MySQL 5.7 2015年10月21日 2023年10月21日 预计2028年12月31日 MySQL 8.0 2018年04月19日 预计2026年04月 未定

配置 说明 服务名称 用于唯一标识一个后端服务 大模型供应商 支持的大模型供应商有：DeepSeek、OpenAI兼容(OpenAI Compatible)、百炼、息壤、火山方舟、千帆等 需特别说明，本AI服务所集成的大模型能力并非由云原生API网关直接提供。您在接入使用前，需自行确认该服务是否匹配您的业务需求并评估其可靠性，同时应确保严格遵循国家法律法规及平台产品协议的相关约定。若因未合规使用引发任何纠纷或不良后果，我方不承担相应责任。 服务地址(baseurl) 选定大模型供应商后会自动载入标准接口，其中OpenAI兼容的供应商需要自行填写服务地址 APIKEY 该APIKEY用于在云原生API网关和大模型服务之间进行身份认证。APIKEY的获取请咨询对应服务供应商。

分类 配额名称 说明 用户级别 总容量配额 默认分配 100TB。 最大可支持 10PB，如有更大需求可提工单进行申请。 用户级别 单地域内可创建文件系统数量 20 个，如有更大需求可提工单进行申请。 用户级别 挂载客户端数量 3000 个 单文件系统 容量 起始容量 0.5TB（512GB），默认 100TB。 最大可支持 10PB，如有更大需求可提工单进行申请 单文件系统 元数据 最大支持 20000 iops。 如有更大需求可提工单进行申请。 单文件系统 最大目录层级 1000 级 单文件系统 最大文件数 随着容量递增，100 万个/TB，默认最大 20 亿。 最大可支持上百亿，如有更大需求可提工单进行申请。 单文件系统 挂载客户端数量 3000 个 单客户端 挂载文件系统个数 300 个 单个目录 最大文件数 100 万

名字 存储尺寸 描述 范围 smallint 2字节 小范围整数 小范围整数 smallint 2字节 小范围整数 smallint 2字节 小范围整数 32768 到+32767 integer 4字节 整数的典型选择 2147483648 到+2147483647 bigint 8字节 大范围整数 大范围整数 bigint 8字节 大范围整数 bigint 8字节 大范围整数 9223372036854775808 到+9223372036854775807 decimal 可变 用户指定精度，精确 最高小数点前131072位，以及小数点后16383位 numeric 可变 用户指定精度，精确 最高小数点前131072位，以及小数点后16383位 real 4字节 可变精度，不精确 6位十进制精度 double precision 8字节 可变精度，不精确 15位十进制精度 smallserial 2字节 自动增加的小整数 1到32767 serial 4字节 自动增加的整数 1到2147483647 bigserial 8字节 自动增长的大整数 1到9223372036854775807

名字 存储尺寸 描述 范围 smallint 2字节 小范围整数 小范围整数 smallint 2字节 小范围整数 smallint 2字节 小范围整数 32768 到+32767 integer 4字节 整数的典型选择 2147483648 到+2147483647 bigint 8字节 大范围整数 大范围整数 bigint 8字节 大范围整数 bigint 8字节 大范围整数 9223372036854775808 到+9223372036854775807 decimal 可变 用户指定精度，精确 最高小数点前131072位，以及小数点后16383位 numeric 可变 用户指定精度，精确 最高小数点前131072位，以及小数点后16383位 real 4字节 可变精度，不精确 6位十进制精度 double precision 8字节 可变精度，不精确 15位十进制精度 smallserial 2字节 自动增加的小整数 1到32767 serial 4字节 自动增加的整数 1到2147483647 bigserial 8字节 自动增长的大整数 1到9223372036854775807

失败原因 处理建议 源库的版本不符合要求，大版本号不能低于9.4。 目标库的版本不符合要求，大版本号不能低于9.5。 当前源库的大版本号大于目标库的大版本号。 目前DTS服务支持的源端PostgreSQL版本为9.4/9.5/9.6/10/11/12，支持的目标端PostgreSQL版本为9.5/9.6/10/11/12，请确保源库和目标库的PostgreSQL版本在要求范围内，且目标库版本不小于源库版本。

操作步骤 1. 登录智算安全专区控制台。 2. 单击左侧的“大模型安全测评”，系统跳转到“大模型安全测评”页面。

本文向您介绍使用大模型学习机微调自己的文本生成模型。 前提条件 大模型学习机预装了Llama 27bchat模型与stablediffuisonbasev2.1模型，以及配套的开源服务框架textgenerationwebui与stablediffuisonwebui，使您不需单独进行下载模型与配置环境。 云主机开通与如何登录网页页面参见部署文档。 1. 模型微调简介 由于基础大模型参数量极多，训练需要的资源量极大，因此基于基础大模型进行微调的小模型应运而生。学习机内框架自带的LoRA技术便是其中最主流的一种。 LoRA小模型无法独立使用，需要在加载完基础大模型后再进行加载，对基础大模型的能力进行扩展。 已有LoRA模型，如何加载可参考文本生成模型使用最佳实践。 2. 准备训练数据 模型训练支持多种输入格式，主要分为格式化数据(Formatted Dataset)与原始文本数据(Raw text file)。 2.1 格式化数据(Formated Dataset) 格式化数据一般用于对话领域，以json形式进行组织，可以在/root/textgenerationwebui/training/formats目录下找到各类格式的配置文件。以alpacachatbotformat为例， 每条数据包括instruction， output或instruction，input，output三个部分。参考示例数据如下： [ { "instruction": "我想基于天翼云云主机通过镜像部署大模型学习机，你能告诉我具体怎么操作吗？", "output": "当然可以。首先，您需要登录云主机控制台，并选择创建云主机资源池，然后点击“创建云主机”按钮。" }, { "instruction": "好的，我已经点击了“创建云主机”按钮，接下来应该怎么做？", "output": "在当前可用选项中，您可以在重庆重庆2或宁夏中卫5购买GPU计算加速型云主机的Pi7规格；或者在重庆重庆2购买GPU计算加速型云主机的Pi2规格。" } ] 您需要将私有数据组织成上述格式，并保存为[文件名].json文件。例如xuexijichatdata.json 参考/root/textgenerationwebui/training/formats/alpacachatbotformat.json文件内容, 格式化输入数据将被组织成 User: %instruction%nAssistant: %output%输入模型，此处的 User和 Assistant务必与Parameter页面的Chat标签下的Character和User的Name保持一致。对话时的角色标签对大模型来说是一个很强的特征。 需要参考下图将Parameter页Chat标签下默认的Name 修改为Character’s Name： Assistant；User Name：User 。否则在进行chat 对话时小模型几乎完全无效 。

通过控制台“AI风险概览”为您呈现推理安全、语料安全、环境安全的风险态势。 操作场景 AI风险概览实时为您呈现大模型合规态势，支持大模型的数据语料风险运营、推理业务风险运营和环境安全风险运营，实时呈现大模型的风险概览，助您识别大模型风险和潜在威胁。 推理安全：基于WAF攻击日志和访问日志，分析呈现大模型接口的调用请求次数、调用请求命中防护策略数、以及命中防护策略数排名前5的推理模型域名和数量、提示词注入的攻击分布、推理模型攻击类型分布等。 语料安全：基于DSC告警日志，分析呈现大模型中的语料风险类别和数量、TOP5语料风险资产分布等。 环境安全：基于态势感知（专业版）基线检查、漏洞管理、告警管理功能，分析呈现当前工作空间的TOP5合规检查风险、TOP5漏洞风险、TOP5告警和最近攻击列表。 前提条件 推理安全 依赖Web应用防火墙 WAF服务，在使用AI风险概览的推理安全功能模块前需要确保Web应用防火墙 WAF服务在有效使用期内，且仅WAF云模式支持。 语料安全 依赖数据安全中心DSC服务，在使用AI风险概览的语料安全功能模块前需要确保大模型数据安全防护在有效使用期内。 已经在态势感知（专业版）控制台接入“WAF攻击日志”，“WAF访问日志”和“DSC告警日志”。接入云服务日志请参见接入日志数据。 仅态势感知（专业版）专业版支持。

训推一体场景 使用场景 主要面向对数据保密及安全有着较高要求的企业单位与科研机构，可有力支撑其在私有化环境中，凭借自有数据开展专属行业大模型的训练或者微调工作，尤其适用于政务、医疗、金融等诸多行业领域，充分满足不同行业对于数据安全及大模型定制化应用的需求。 产品优势 拥有丰富多样的训推一体机规格，可依据不同用户的具体业务规模、算力需求等情况，灵活提供适配性强的产品选择。 配备简单易用的训练平台，极大降低了用户的操作门槛，让即使没有深厚技术背景的人员也能便捷地进行大模型的相关训练操作，有效提升工作效率。 模型推理场景 使用场景 精准契合那些无大模型训练诉求，但又需要在私有化环境下部署自有大模型或引入行业大模型，以此为自身应用赋予智能能力的应用场景，广泛覆盖教育平台、数字政务以及医疗应用等关键领域，通过快速调用内置DeepSeek等系列大模型，获取高效的推理服务，为行业应用提供强大的AI支持，提升业务智能化水平。 产品优势 具备推理加速功能以及量化压缩技术，能够大幅提升模型推理的速度与效率，同时优化资源利用，降低对硬件资源的依赖。 支持在本地进行快速部署，可迅速将大模型的推理能力融入到现有业务体系中，减少部署时间成本，快速实现应用赋能与价值创造。

模型推理服务为大模型训练、推理、应用提供全栈工具链,包含模型体验、模型定制、模型服务、插件服务等模块。预置丰富的基座大模型和数据集,支持国产化等异构算力,提供算子加速与模型加速,极大提升大模型训练推理效率。

步骤二：登录ECS自建数据库实例 您可以通过数据管理服务登录ECS自建数据库，轻松操作与管理数据库。 前提条件 登录ECS自建数据库实例之前需要先建立数据库实例登录信息，具体操作请参考步骤一：新增数据库实例登录信息。 操作步骤 步骤 1 登录管理控制台。 步骤 2 单击管理控制台左上角的 ，选择区域和项目。 步骤 3 单击页面左上角的 ，选择“数据库 > 数据管理服务 DAS”，进入数据管理服务页面。 步骤 4 在左侧导航栏中，单击“开发工具”，进入开发工具页面。 步骤 5 选择需要登录的目标数据库，单击操作列表中的“登录”。 结束

本节介绍智算安全专区的产品优势。 大模型安全卫士 强大的内容过滤能力 具备实时过滤与防御能力，通过敏感词匹配、语义分析和模型推理三道防线，确保生成内容的安全合规。 多语言支持 语言不敏感性，支持多语言、混合语言检测，适应全球化业务需求。 流式检查 支持在 AI 模型流式输出过程中进行内容检测，实时阻断违规内容，保障输出安全。 大模型安全测评 多种服务模式满足客户各种测评需求 目前支持以Qwen、LLaMA、DeepSeek、GLM等为底座的各种推理版、非推理版、蒸馏版的大模型应用进行测评，针对目标大模型应用无论具有标准化openAI接口、非标准化openAI接口、无API接口等多种情况均支持测评。 丰富的测评经验与专业测评能力 重点关注越狱攻击和涉密数据泄漏的等会引发系统性风险的场景。拥有一支由数据科学家、安全专家、行业分析师组成的专业测评团队，具备深厚的技术背景和丰富的测评经验。结合先进的测评工具和方法，通过大模型测评来高效快速的挖掘模型存在的潜在风险，然后再有针对性的进行防护。 先进的理念与优质专业语料的积累 通过来自公开数据集、行业标准数据集和自建数据集等多个来源的数据来形成基础语料库，通过“以模治模”的理念，所有测试用例采用大模型进行自动化构建，通过对大模型对测评用例进行持续优化和迭代，确保测试用例的全面性和准确性，以满足不断变化的需求。

本节介绍了DRDS版本升级的操作场景、注意事项、操作步骤等内容。 什么是DRDS系列优选版本？ DRDS内核版本通常由4位数字组成（如3.0.8.x），取前三位数字作为大版本号（如3.0.8）。每个大版本会在版本迭代过程中发布一系列小版本，本系列优选版本是当前大版本下的推荐版本，通常是最新且最稳定的小版本。对于同一大版本下的DRDS实例，将内核版本升级至本系列优选版本属于小版本升级，通常涉及问题修复和优化，语法兼容风险较小，推荐客户将实例升级至本系列优选版本。 什么是DRDS最新版本？ 当前DRDS最新大版本的优选版本。 操作场景 DRDS支持手动升级内核版本，可选择当前系列优选版本和最新版本升级。 系列优选版本：相同大版本下的推荐版本。改动较小，兼容风险较小。 最新版本：最新大版本下的推荐版本。改动涉及新特性、性能优化、问题修复，属于大版本升级，存在兼容性风险，建议升级前做充分的业务测试。 新创建的DRDS实例默认为最新版本。如果华为云有新的内核版本发布时，您可以在“实例管理”页面的“版本”列看到内核版本升级提示，单击“版本升级”弹出升级版本弹窗。 注意事项 升级数据库内核版本会重启DRDS实例，服务可能会出现闪断，请您尽量在业务低峰期执行该操作，或确保您的应用有自动重连机制。 如果实例已经为本系列优选版本，则只可升级至最新版本。 如果当前版本与升级目标版本跨度较大，请务必在测试实例上做好充分的业务兼容性测试后，再进行生产实例的版本升级，确保生产业务稳定不受影响。 版本升级后如有业务不兼容问题，可及时将版本回滚至升级前版本，详细内容请参考版本回滚。

本最佳实践主要描述通过一站式智算服务平台进行NLP大模型快速微调。 概述 AI发展正在经历一个拐点的跨越，从“预测推断”走向“内容生成”。新的AIGC形态给传统企业的模型训练和调用都提出新的挑战，需要更大的算力和大参数的算法，通过训练在大型文本语料库上学习到的语言模式生成自然语言文本，可以自动生成各类内容，文本、图像、语音、视频、代码中，能广泛应用于新闻、文案、对话、规划、设计创新，才能让企业在这场新的竞争中占据一席之地。 具体来说，新一代的大模型对模型训练的底座和平台都提出了新的要求，支持多个任务、参数1亿以上基于海量多源数据打造的模型，采用Transformer的架构，并且支持预训练。通过单模型做多种任务、更少的数据标注、更优的模型效果等特点来提升模型训练效率，以实现更优的识别、理解、决策、生成效果和更低成本的开发方案。 一站式智算服务平台通过开箱即用的平台化产品，为您解决企业数字化、智能化转型中需要解决的AI建模门槛高、流程复杂、人力成本高等问题，有效为企业降本增效，助力企业转型。 本实践主要介绍少量样本对大语言模型进行微调训练，微调训练是大语言模型训练和应用中最常见的一种方式，用性价比的方式让企业快速训练出一个适合于自己业务的对话模型。通过一站式智算服务平台来管理数据、标注指令微调、分布式调优任务、任务监控、模型管理、模型评估等全流程的调优步骤，通过交互式操作即可快速微调出属于业务自己的大语言对话模型。 任务特定性能提升：预训练语言模型通过大规模的无监督训练学习了语言的统计模式和语义表示。然而，它在特定任务上的性能可能不如在大规模无监督数据上表现出的性能。通过在任务特定的有标签数据上进行微调，模型可以进一步学习任务相关的特征和模式，从而提高性能。 领域适应性：预训练语言模型可能在不同领域的数据上表现不一致。通过在特定领域的有标签数据上进行微调，可以使模型更好地适应该领域的特殊术语、结构和语义，提高在该领域任务上的效果。 数据稀缺性：某些任务可能受制于数据的稀缺性，很难获得大规模的标签数据。监督微调可以通过使用有限的标签数据来训练模型，从而在数据有限的情况下取得较好的性能。 防止过拟合：在监督微调过程中，通过使用有标签数据进行有监督训练，可以减少模型在特定任务上的过拟合风险。这是因为监督微调过程中的有标签数据可以提供更具体的任务信号，有助于约束模型的学习，避免过多地拟合预训练过程中的无监督信号。

一站式智算服务平台是为大模型训练、推理、应用提供全栈工具链的智算服务平台,包含数据管理、模型开发与训练、模型评估、模型管理、服务部署等模块。内置丰富的基座大模型,支持国产化等异构算力,提供算子加速与模型加速,极大提升大模型训练推理效率。