本文介绍了如何停止实例。 操作场景 如果暂时不需要使用数据库实例，您可以停止该实例。停止的实例不再对外提供服务，但是相关资源不会被释放，可以通过启动实例使得实例再次对外提供服务。 操作步骤 登录天翼云门户。 点击控制中心，进入控制中心后，选择目标资源池。 在产品列表页面中找到【数据库】→【关系数据库PostgreSQL版】，点击进入控制台。 在左侧菜单中点击【PostgreSQL】→【实例管理】，点击进入产品实例管理页。 在“实例管理”页面，选择指定的实例，单击“更多”选择停止操作。 点击确认完成停止。 注意 实例停止后，自动备份任务也会停止。 不同资源池因IaaS资源能力等原因，加载版本有所差异，详见

本节介绍如何对DNS服务进行配置。 操作场景 用户配置本地DNS服务。 前提条件 注册天翼云账号，并完成实名认证。具体操作，请参见天翼云账号注册流程。 您已经完成智能网关实例的创建。 操作步骤 1. 登录控制中心。 2. 在控制中心页面左上角点击，选择区域，本文我们选择华东1。 3. 依次选择“网络”，单击“天翼云SDWAN”；进入天翼云SDWAN总览页面。 4. 选择“智能网关”，单击目标智能网关实例的名称。 5. 单击“设备管理”。 6. 开启“DNS代理”按钮，可编辑DNS地址。 7. 单击“√”，可保存DNS配置。

告警名称 威胁告警说明 DDoS “实时检测”互联网主机的DDoS攻击。 共支持检测100+种子类型DDoS威胁。 网络层攻击 NTP Flood攻击、CC攻击等。 传输层攻击 SYN Flood攻击、ACK Flood攻击等。 会话层攻击 SSL连接攻击等。 应用层攻击 HTTP Get Flood攻击、HTTP Post Flood攻击等。 暴力破解 “实时检测”入侵资产的行为和主机资产内部的风险，检测SSH、RDP、FTP、SQL Server、MySQL等账户是否遭受的口令破解攻击，以及检测资产账户是否被破解异常登录。 共支持检测22种子类型的暴力破解威胁。 支持检测的暴力破解威胁 包括SSH暴力破解（2种）、RDP暴力破解、MSSQL暴力破解、MySQL暴力破解、FTP暴力破解、SMB暴力破解（3种）、HTTP暴力破解（4种）、Telnet暴力破解。 接入的HSS服务上报的告警事件 包括SSH暴力破解、RDP暴力破解、FTP暴力破解、MySQL暴力破解、IRC暴力破解、Webmin暴力破解、其他端口被暴力破解、系统被成功爆破事件。 Web攻击 “实时检测”Web恶意扫描器、IP、网马等威胁。 共支持检测38种子类型的Web攻击威胁。 支持检测的Web攻击威胁 包括Webshell攻击（3种）、跨站脚本攻击、代码注入攻击（7种）、SQL注入攻击（9种）、命令注入攻击。 接入的HSS服务上报的告警事件 包括Webshell攻击、Linux网页篡改、Windows网页篡改。 接入的WAF服务上报的告警事件 包括跨站脚本攻击、命令注入攻击、SQL注入攻击、目录遍历攻击、本地文件包含、远程文件包含、远程代码执行、网站后门、网站信息泄露、漏洞攻击、IP信誉库、恶意爬虫、网页防篡改、网页防爬虫。 后门木马 “实时检测”资产系统是否存在后门木马风险，以及被后门木马程序入侵后的恶意请求行为。 共支持检测5种子类型的后门木马威胁。 检测主机资产上Web目录中的PHP、JSP等后门木马文件类型。 检测资产被植入木马特性 检测内容包括资产系统存在win32/ramnit checkin木马、被入侵后执行wannacry勒索病毒相关的DNS解析请求、被入侵后尝试下载木马程序，被入侵后访问HFS下载服务器等。 僵尸主机 “实时检测”资产被入侵后对外发起攻击的威胁。 共支持检测7种子类型的僵尸主机威胁。 对外发起SSH暴力破解 对外发起RDP暴力破解 对外发起Web暴力破解 对外发起MySQL暴力破解 对外发起SQLServer暴力破解 对外发起DDoS攻击 被入侵后安装挖矿程序 异常行为 “实时检测”资产系统异常变更和操作行为。 共支持检测21种子类型的异常行为威胁。 支持检测的异常行为威胁 包括文件系统被扫描、CMS V1.0漏洞、敏感文件被访问。 接入的HSS服务上报的告警事件 包括系统成功登录审计事件、文件目录变更监测事件、混杂模式网卡、异常权限用户、反弹Shell、异常Shell、高危命令执行、异常自启动、文件提权、进程提权、Rootkit程序。 接入的WAF服务上报的告警事件 包括自定义规则、白名单、黑名单、地理访问控制、扫描器爬虫、IP黑白名单、非法访问。 漏洞攻击 “实时检测”资产被尝试使用漏洞进行攻击。 共支持检测2种子类型的漏洞攻击威胁。 WebCMS漏洞攻击 命令控制 “实时检测”资产可能被命令与控制服务器（C&C，Command and Control Server）远程控制，访问与恶意软件或建立与恶意软件之间的链接。 共支持检测3种子类型的命令控制威胁。 监控主机存在访问DGA域名行为 监控主机存在访问恶意C&C域名行为 监控主机存在恶意C&C通道行为

本小节介绍通过数据库复制服务进行备份迁移前的准备工作。在正式使用数据库复制服务之前，请先阅读以确保您已完成创建备份迁移任务所需的各项准备工作。 本小节介绍通过数据库复制服务进行备份迁移前的准备工作。在正式使用数据库复制服务之前，请先阅读以确保您已完成创建备份迁移任务所需的各项准备工作。 备份文件准备 请参见《数据库复制服务快速入门》中“备份迁移快速入门”下的“使用须知”章节。 数据库恢复模式设置 仅进行全量备份迁移时，对数据库的恢复模式没有要求。 进行全量+增量备份迁移时，数据库备份文件的恢复模式需要设置为“完整”。具体操作方法如下： 方法一： 通过Microsoft SQL Server Management Studio 数据库管理软件登录到本地数据库中心，选择需要迁移的数据库，单击鼠标右键，选择“属性”，选择“选项 > 恢复模式”，将恢复模式设置为“完整”即可。 图 设置恢复模式 方法二：使用如下SQL命令的方式进行设置。 USE master; ALTER DATABASE databasename SET RECOVERY FULL; 目标数据库磁盘要求 目标数据库的可用磁盘空间至少为待还原数据库总数据量大小的1.5倍。 迁移时间的评估参考 一次完整的备份迁移主要经历以下4个阶段。 图 迁移示意图 表 备份迁移说明 阶段 名称 描述 ① 导出数据库备份文件 该阶段主要耗时为生成数据库备份文件所需的时间，通常取决于源数据库的配置，需要您根据源数据库的配置进行预估。 ② 上传备份文件至OBS桶 OBS对象存储不限速，如果您是通过公网访问OBS对象存储时，上传下载速度受公网带宽限制。例如：公网带宽为10MB/s时，在没有其他因素影响网络的情况下，则上传的速度为10MB/s。 ③ 通过DRS下载备份文件至目标端RDS for SQL Server 一般情况下，下载速度约为：100MB/s或者300GB/h。 ④ 将源数据库的备份文件恢复至目标数据库 从经验值来讲，一般的恢复速度约为5GB/min或者300GB/h。 合计总耗时 总耗时阶段①耗时+阶段②耗时+阶段③耗时+阶段④耗时业务中断时长 业务停机>进行最后一次增量备份>上传OBS>创建DRS任务恢复 下面将以一个示例说明备份迁移的完整过程的耗时，可以帮助您提前预估迁移时间，实际的耗时与用户端的网络，数据库配置等情况有关，需以实际情况为准，表格数据仅供参考。 示例： 表2 备份迁移示例 阶段 名称 备份文件大小（G） 耗时（h） ① 导出数据库备份文件 283 5.5 ② 上传备份文件至OBS通 283 8.95 ③ 通过DRS下载备份文件 283 0.61 ④ 备份文件恢复到目标库 283 2.24 合计总耗时 17.3

本文介绍云日志服务的读写数据量限制。 类别 限制项 说明 备注 天翼云账号 日志写入流量 您在1个天翼云账号下，写入流量最大为500MB/s。 如您有更大的使用需求，请提工单申请。 天翼云账号 日志写入次数 您在1个天翼云账号下，写入次数最大为10000次/s。 如您有更大的使用需求，请提工单申请。 天翼云账号 日志读取次数 您在1个天翼云账号下，读取次数最大为1000次/min。 如您有更大的使用需求，请提工单申请。 日志项目 日志写入流量 您在1个日志项目下，写入流量最大为200MB/s。 非硬性限制，超过限制不保证服务质量。 日志项目 日志写入次数 您在1个日志项目下，写入次数最大为1000次/s。 非硬性限制，超过限制不保证服务质量。 日志项目 日志查询流量 您在1个日志项目下，通过API查询日志，单次返回日志最大为10MB。 不涉及。 日志项目 日志读取次数 您在1个日志项目下，读取次数最大为500次/min。 非硬性限制，超过限制不保证服务质量。 日志单元 日志写入流量 您在1个日志单元下，写入流量最大为100MB/s。 非硬性限制，超过限制不保证服务质量。 日志单元 日志写入次数 您在1个日志单元下，写入次数最大为500次/s。 非硬性限制，超过限制不保证服务质量。 日志单元 日志查询流量 您在1个日志单元下，通过API查询日志，单次返回日志最大为10MB。 不涉及。 日志单元 日志读取次数 您在1个日志单元下，读取次数最大为100次/min。 非硬性限制，超过限制不保证服务质量。 日志单元 日志查询速度 您在1个日志单元下，读取速度为20MB/s 非硬性限制。超过限制时，系统会尽可能提供服务，但不保证服务质量。 SDK SDK上报日志流量 推荐使用1.0.0以上SDK正式版本，若有低版本，请尽快升级，否则无法保证SLA。 低版本SDK可能会导致上报失败。 表1 日志读写限制表

配置OBS转储后，OBS桶无法查看历史数据。是因为云日志服务配置的日志转储是将最新产生的日志转储到OBS桶中，不会对历史日志进行转储。

安装 Ingress 控制器 如果您尚未安装 Ingress 控制器，可以使用以下命令安装 NGINX Ingress Controller： plaintext kubectl apply f 配置 Ingress 资源 创建一个 Ingress 资源来公开您的服务。示例 Ingress 配置如下： plaintext apiVersion: networking.k8s.io/v1 kind: Ingress metadata: name: exampleingress namespace: default spec: rules: host: http: paths: path: / pathType: Prefix backend: service: name: exampleservice port: number: 80 替换 为您的公网 DNS 名称，exampleservice 为您的服务名称。 应用 Ingress 配置： plaintext kubectl apply f exampleingress.yaml 配置 DNS 将您的公网 DNS 名称指向 Ingress 控制器的外部 IP 地址。可以在您的域名注册商处配置 DNS 记录。例如： 类型：A 名称： 值：Ingress 控制器的外部 IP 地址 验证连接 配置完成后，您可以通过公网访问您的 Kubernetes 集群和服务。例如，在浏览器中访问： 安全注意事项 认证和授权：确保 API Server 启用了适当的认证和授权机制。 网络安全：使用 HTTPS 加密流量，确保数据传输的安全性。 防火墙：仅开放必要的端口，并限制访问来源 IP。 审计日志：启用审计日志，监控和记录访问行为。 常见问题 无法访问 API Server 检查防火墙规则是否正确配置。 确认 API Server 配置中的公网 IP 和 DNS 名称正确无误。 检查 API Server 日志以获取详细错误信息。

安装 Ingress 控制器 如果您尚未安装 Ingress 控制器，可以使用以下命令安装 NGINX Ingress Controller： plaintext kubectl apply f 配置 Ingress 资源 创建一个 Ingress 资源来公开您的服务。示例 Ingress 配置如下： plaintext apiVersion: networking.k8s.io/v1 kind: Ingress metadata: name: exampleingress namespace: default spec: rules: host: http: paths: path: / pathType: Prefix backend: service: name: exampleservice port: number: 80 替换 为您的公网 DNS 名称，exampleservice 为您的服务名称。 应用 Ingress 配置： plaintext kubectl apply f exampleingress.yaml 配置 DNS 将您的公网 DNS 名称指向 Ingress 控制器的外部 IP 地址。可以在您的域名注册商处配置 DNS 记录。例如： 类型：A 名称： 值：Ingress 控制器的外部 IP 地址 验证连接 配置完成后，您可以通过公网访问您的 Kubernetes 集群和服务。例如，在浏览器中访问： 安全注意事项 认证和授权：确保 API Server 启用了适当的认证和授权机制。 网络安全：使用 HTTPS 加密流量，确保数据传输的安全性。 防火墙：仅开放必要的端口，并限制访问来源 IP。 审计日志：启用审计日志，监控和记录访问行为。 常见问题 无法访问 API Server 检查防火墙规则是否正确配置。 确认 API Server 配置中的公网 IP 和 DNS 名称正确无误。 检查 API Server 日志以获取详细错误信息。

关系数据库MySQL版服务支持自动扩容实例存储空间,即当实例存储空间达到一定阈值时,由后台自动发起扩容,无需用户进行人工操作确认。本文介绍如何开启和关闭关系数据库MySQL版服务的存储空间自动扩容功能。 说明 存储空间自动扩容功能在订购页默认开启，可手动关闭，也可等实例创建完毕，在实例的基本信息页面执行本文操作进行关闭。 仅II类型资源池支持该功能，具体支持情况以控制台页面展示为准。更多资源池信息，请参见功能概览。 前提条件 实例状态为运行中。 您的账户余额充足。 约束限制 实例最大可自动扩容至32TB。 注意 如果实例存储空间本身已达上限，则不支持自动扩容。 存储空间扩容不会停止服务，实例状态会成为“扩容中”。 扩容后不支持缩容。 若触发自动扩容时该实例存在设置存储空间自动扩容的只读实例，并且只读实例存储空间小于主实例扩容目标空间，则优先扩容满足扩容条件的只读实例。所有满足扩容条件的只读实例扩容完成后，再扩容主实例存储空间。 实例的任意节点达到阈值都会触发自动扩容。 存储空间自动扩容连续触发间隔为一小时（即存储空间自动扩容成功后仍满足扩容阈值，在一小时后会再次触发自动扩容）；每次默认扩容当前磁盘大小的20%（向上取整，该步长可调节），直到达到扩容上限为止。

本页介绍了关系数据库MySQL版存储相关问题和解决方法。 MySQL实例支持哪些存储引擎 推荐您使用InnoDB引擎。关系数据库MySQL版只有InnoDB引擎支持完整的备份、恢复等服务。 您也可以登录数据库然后执行 show engines;命令查看数据库支持的存储引擎或参考下图选择。 为什么MySQL实例不支持MyISAM引擎? 1. MyISAM引擎表不支持事务，读写操作会相互冲突，仅支持表级别锁。 2. MyISAM引擎对数据完整性的保护存在缺陷，且这些缺陷会导致数据库数据的损坏甚至丢失。这种设计带来的缺陷，目前没有比较好的解决方案。 3. MyISAM引擎在出现数据损害情况下，多数都需要人为介入进行修复，无法通过产品控制台提供的恢复功能自动进行恢复。 4. MyISAM引擎向InnoDB的迁移代价低，大多数基本不需要改动建表的语句。 5. MyISAM引擎在I/O操作上的性能相对于InnoDB的引擎优势不大。 MySQL实例使用的什么存储 关系数据库MySQL版本备份数据存储有两种方式，一种是采用云硬盘的方式，另一种是采用对象存储服务的方式。两种方式存储备份数据均不占用用户的数据库空间。 关系数据库MySQL版存储采用云硬盘。关于云硬盘的信息请参考云硬盘。 关于对象存储服务的信息请参考对象存储。

本节主要介绍删除副本集实例只读节点 您可以删除不再使用的只读节点来释放资源。 说明 目前此功能仅支持白名单用户使用，需要提交工单申请才能使用。 使用须知 删除操作无法恢复，请谨慎操作。 开启操作保护的用户，在进行敏感操作时，通过进行二次认证再次确认您的身份，进一步提高账号安全性，有效保护您安全使用云产品。关于如何开启操作保护，具体请参考《统一身份认证服务用户指南》的内容。 存在异常节点的实例不能执行删除节点操作。 操作步骤 步骤 1 登录管理控制台。 步骤 2 在服务列表中选择“数据库 > 文档数据库服务DDS”。 登录文档数据库服务DDS控制台 步骤 3 在“实例管理”页面，选择目标实例，单击实例名称。 步骤 4 在“基本信息 > 节点信息”区域，单击“只读节点”。 对于“包年/包月”模式的实例： 勾选目标节点后，选择“更多”，单击“缩减”。 选择“包年/包月”实例节点 单击“是”。 删除“包年/包月”实例节点 勾选“我已确认本次退款金额和相关费用”，单击“确定”。您也可以选择批量缩减只读节点的方式：勾选所有要删除的只读节点，单击“批量缩减”。 说明 您也可以选择批量缩减只读节点的方式：勾选所有要删除的只读节点，单击“批量缩减”。 对于“按需计费”模式的实例： 勾选目标节点后，选择“更多”，单击“删除”。 选择“按需计费”实例节点 单击“是”。 图 删除“按需计费”实例节点 说明 您也可以选择批量删除只读节点的方式：勾选所有要删除的只读节点，单击“批量删除”。 步骤 5 若您已开启操作保护，在“删除节点”弹出框，单击“去验证”，跳转至验证页面，单击“免费获取验证码”，正确输入验证码并单击“认证”，页面自动关闭。

本章节主要介绍使用微服务仪表盘 您可以通过仪表盘实时查看微服务运行相关的指标，根据丰富实时的仪表盘数据，对微服务做相应的治理动作。 背景说明 如果微服务应用部署在ServiceStage上，部署应用时需要设置微服务引擎，应用会自动获取服务注册发现地址、配置中心地址和仪表盘地址，不需要配置monitor地址，就可以使用仪表盘功能（当前只有Java Chassis和Go Chassis支持仪表盘地址自动发现功能）。 如果是本地启动微服务应用注册到微服务引擎，需要手工配置monitor地址，才可以使用仪表盘功能。 操作步骤 步骤 1 登录ServiceStage控制台，选择“微服务引擎 CSE”。 步骤 2 进入微服务引擎页面，选择待操作的微服务引擎，单击“查看控制台”。 未开启安全认证的微服务引擎专享版或微服务引擎专业版，请执行步骤4。 开启安全认证的微服务引擎专享版，请执行步骤3。 步骤 3 在弹出的“安全认证”对话框输入帐号名及密码，单击“确定”。 说明： 首次进入微服务控制台，请输入root帐号名及创建微服务引擎专享版时输入的密码。 创建帐号请参考新增帐号。 步骤 4 在“仪表盘”页面，在下拉列表框选择需要查看的应用，在搜索框输入微服务名称，查询微服务，页面将展示筛选出的微服务的运行指标。 单击“查看示例图”，可以查看运行指标参数含义。 步骤 5 选择排序方式，筛选出的微服务会按照指定方式进行排序。

本文对对等连接产品计费进行说明。 对等连接免费提供服务。

本文向您介绍Windows云主机如何保持会话连接长时间不断开问题的解决方案。 操作场景 本节操作介绍如何设置Windows服务器以防止远程桌面连接在长时间不活动后自动断开。 操作步骤 以下操作以Windows 2008操作系统为例。 1. 打开“开始”菜单，在“运行”对话框中，输入gpedit.msc并按回车键，以打开“本地组策略编辑器”。 图1 gpedit.msc 2. 在“本地组策略编辑器”窗口中，依次展开以下路径：计算机配置 > 管理模板 > Windows 组件 > 远程桌面服务 > 远程桌面会话主机 > 会话时间限制。 3. 设置已中断会话的时间限制。 1. 选择“已启用”。 2. 结束已断开连接的会话：从不。 4. 设置活动但空闲的远程桌面服务会话的时间限制。 1. 选择”已启用“。 2. 空闲会话限制：从不。

本节介绍了设置GeminiDB Redis告警规则的具体方法。 操作场景 通过设置GeminiDB Redis告警规则，用户可自定义监控目标与通知策略，及时了解GeminiDB Redis运行状况，从而起到预警作用。 设置GeminiDB Redis的告警规则包括设置告警规则名称、监控对象、监控指标、告警阈值、监控周期和是否发送通知等参数。 操作步骤 1、登录管理控制台。 2、在左侧导航树，选择“告警 > 告警规则”。 3、在“告警规则”页面，单击“创建告警规则”。 4、根据界面提示配置告警参数。 5、配置完成后，单击“立即创建”，完成告警规则的创建。 告警规则创建完成后，当监控指标触发设定的告警策略时，云监控服务会在第一时间通过消息通知服务实时告知您云上资源异常，以免因此造成业务损失。

本章节主要介绍如何绑定企业项目。 企业可以根据组织架构规划企业项目，将企业分布在不同区域的资源按照企业项目进行统一管理，同时可以为每个企业项目设置拥有不同权限的用户组和用户。本章节为您介绍ES中Logstash集群如何绑定、修改企业项目。 前提条件 在绑定企业项目前，您已在“企业项目管理控制台”创建企业项目。 绑定企业项目 在创建集群时，可以在“企业项目”绑定已创建的企业项目，也可以单击“查看项目管理”，前往企业项目管理控制台，新建企业项目和查看已有的企业项目。 修改企业项目 针对之前已创建的集群，其绑定的企业项目可根据实际情况进行修改。 1.登录云搜索服务管理控制台。 2.在左侧导航栏，选择“集群管理 > Logstash”，进入集群管理页面。 3.在集群列表中，单击集群名称进入集群“基本信息”页面。 4.在集群“基本信息”页面，单击“企业项目”右侧的企业项目名称，进入项目管理页面。 5.在“资源”页签下，“区域”选项中选择当前集群所在的区域，“服务”选项中选“云搜索服务 ES”。此时，资源列表将筛选出对应的ES集群。 6.勾选需要修改企业项目的集群，然后单击“迁出”。 7.在“迁出资源”页面，选择“迁出方式”，再选择“请选择要迁入的企业项目”，然后单击“确定”。 迁出资源 8.迁出完成后，可以在云搜索服务管理控制台集群管理页面，查看修改后的集群企业项目信息。

本节为您介绍云迁移服务CMS中数据迁移工具查看告警操作。 左侧导航栏单击“告警中心”后，可以查看告警列表。

本文对CMS产品计费模式进行说明。 云迁移服务CMS (CTCMS，Cloud Migration Service)工具为免费，但在迁移过程中会涉及相关计费项，如迁移实施、天翼云CTECS资源等。

函数计算服务具备自动伸缩的能力，它可以根据您函数的请求量动态地调整函数的实例数量，以承载不同流量的请求。 这种弹性伸缩机制让您无需手动管理服务器或担心资源不足，从而可以专注于开发和优化您的函数代码。

变更规格 软件开发生产线暂不支持规格变更，待服务版本升级后支持。

四、vLLM Benchmark 1. 前言 vLLM Benchmark 是 vLLM 框架用于评估和优化其推理性能的标准化测试工具集，核心作用是为大语言模型（LLM）的推理服务提供量化指标，帮助开发者优化模型部署策略。 2. 测试环境配置 如下图所示为测试环境拓扑，其中GPU云主机配置有4块GPU卡。部署DeepSeek的模型，安装vLLM推理引擎服务并启动；启动Open WebUI服务来接入到vLLM，实现从浏览器客户端登录系统进行问答；vLLM Benchmark用于进行性能压力测试，sharegpt dataset数据集用于性能压测过程的输入数据。 可以通过如下命令来安装vLLM Benchmark工具脚本： plaintext git clone cd vllm/benchmarks/ 3. 测试实践 使用vLLM Benchmark进行性能测试时可以指定sharegpt数据集。 Sharegpt数据集的所有问题论来自于真实的用户提问，更贴近实际应用场景，可以全面、真实地评估模型在实际应用场景中的表现。具体的指标和测试方法见下文。 如下所示为性能压测命令： plaintext python benchmarkserving.py model /root/modelpath/deepseekai/DeepSeekR1DistillQwen32B backend vllm datasetname sharegpt datasetpath /root/ShareGPTV3unfilteredcleanedsplit.json maxconcurrency 1 numprompts 50 命令参数解释如下： model：指定模型路径； backend：指定后端推理引擎类型； datasetname：指定数据集类型； datasetpath：指定数据集路径； maxconcurrency：指定并发数，默认为1； numprompts：指定总的请求数； 对应的测试结果如下所示： 指标说明： 测试结果中的具体指标含义如下所示： Output token throughput(tok/s）：输出 Token 吞吐量，单位为 tok/s，是衡量大模型服务生成效率的核心指标，指系统每秒能够生成的输出 token 数量。它直接反映模型的文本生成速度和系统的整体处理能力，是评估推理成本和服务商业价值的关键依据。 TTFT：Time to First Token，首 Token 延迟，是衡量大模型服务响应速度的核心指标，具体指从用户发送请求到系统生成第一个输出 。 TPOT：指排除首 Token 延迟后，生成每个后续输出 token 的平均耗时。计算公式为：总解码时间 / 输出 token 数量。例如，若 TPOT 为 50ms，则每秒可生成 20 个 token。 ITL：连续两个输出token之间的间隔时间，单位毫秒，反映生成稳定性。 指定输入输出token长度 当使用的数据集为random类型的时候，执行vLLM Benchmark压测命令的时候可以指定输入长度和输出长度，测试命令如下： plaintext python vllm/benchmarks/benchmarkserving.py model /root/modelpath/deepseekai/DeepSeekR1DistillQwen32B backend vllm datasetname random randominputlen 256 randomoutputlen 256 maxconcurrency 1 numprompts 50 进行上述测试时如果使用vllm启动的时候添加了servedmodelname参数以及apikey参数，测试的时候需要在上述命令中加入servedmodelname内容，并且在环境变量中添加OPENAIAPIKEYyourkey。

天翼云智能体引擎（Agent Engine）是一款面向企业级Agent的基础设施服务，为开发者和企业提供安全、弹性、可扩展的云端沙箱运行环境，助力 AI Agent 在多场景下稳定运行与规模化部署。 产品架构 产品功能 功能模块 说明 Agent运行时 负责管理智能体运行、会话和资源调度等核心能力的运行引擎/框架 Agent沙箱 提供安全隔离的云端沙箱运行环境，支持多种类型Agent执行和调用 Agent工具库 集中管理Agent执行需要的工具、模型及存量系统MCP服务，提升智能体的系统交互能力，支持快速集成与便捷调用 认证与权限 统一管理凭证机权限控制，保障调用链交互过程的安全性与合规性

本节主要介绍解除存储池内卷的默认QoS策略。 可以通过下列方式解除存储池内卷的默认QoS策略： 在“服务”>“QoS策略管理”页面，点击具体的QoS策略名称，进入QoS策略详细信息页面。在“关联详情”>“存储池（池内卷的默认QoS策略）”下点击“解除关联对象”，选择需要解除关联QoS策略的存储池即可。 图1 解除存储池内卷的默认QoS策略 在“服务”>“存储池管理”页面，点击目标存储池，进入存储池详细信息页面。点击在“QoS策略”>“存储池内默认的QoS策略”下点击“解除QoS关联”，即可解除存储池内卷的默认QoS策略。 图2 解除存储池内卷的默认QoS策略

本节主要介绍解除存储池内卷的默认QoS策略。 可以通过下列方式解除存储池内卷的默认QoS策略： 在“服务”>“QoS策略管理”页面，点击具体的QoS策略名称，进入QoS策略详细信息页面。在“关联详情”>“存储池（池内卷的默认QoS策略）”下点击“解除关联对象”，选择需要解除关联QoS策略的存储池即可。 图1 解除存储池内卷的默认QoS策略 在“服务”>“存储池管理”页面，点击目标存储池，进入存储池详细信息页面。点击在“QoS策略”>“存储池内默认的QoS策略”下点击“解除QoS关联”，即可解除存储池内卷的默认QoS策略。 图2 解除存储池内卷的默认QoS策略

UserData Script CloudConfig Data 描述 以脚本作为自定义配置的手段，如shell和python脚本。 Cloudinit中预定义的对云主机部分服务进行配置的手段，如yum源、SSH 密钥。 格式 首行必须是“!”（如“!/bin/bash和!/usr/bin/env python”）。首次启动时，将在rc.locallike级别上执行，rc.locallike意味着“在启动序列中非常靠后”。 首行必须是“cloudconfig”，且前面不能有空格。 限制 在采用Base64编码前，脚本内容（包括首行在内）不能超过32KB。 在采用Base64编码前，脚本内容（包括首行在内）不能超过32KB。 频率 仅在首次启动弹性云主机时执行一次。 配置的服务不同，执行频率也会不同。

本节指导用户通过漏洞扫描服务完成域名认证。 前提条件 已获取管理控制台的登录帐号与密码。 域名的“认证状态”为“未认证”。 操作步骤 1. 登录管理控制台。 2. 在左侧导航树中，单击，选择“安全 > 漏洞扫描（专业版）”，进入漏洞扫描服务页面。 3. 在“资产列表 > 网站”页签，单击对应的网站信息“去认证”。 4. 进入域名认证入口，如下图所示。 5. 在弹出的“认证域名”对话框中，选择域名认证方式完成域名认证。一键认证，如下图所示。 6. 单击“完成认证”，进行域名认证。 执行完成后，该域名的状态为“已认证”。

应用场景 云服务监控可收集云服务内置监控指标的数据，您可以通过监控这些指标来跟踪对应云服务状态。除了查看监控数据，您还可以在云服务监控页面创建告警规则和导出原始监控数据。 功能特性 查看监控指标：在监控指标页面上，您可以查看基于 1h、3h 、12h和 24h 收集的原始数据的图表。您可以自定义选择要查看的监控指标，数据可实现自动刷新。 创建告警规则：用户对云服务的核心监控指标设置告警规则，当监控指标触发用户设置的告警条件时，支持以邮箱、短信、等方式通知用户，让用户在第一时间得知云服务发生异常，迅速处理故障，避免因资源问题造成业务损失。 导出监控数据：云服务监控支持您在所选的区间和周期内最多同时导出10个监控项，导出的监控报告中包含用户名、Region名称、服务名称、实例名称、实例ID、指标名称、指标数据、时间、时间戳，查询和筛选更加方便。

参数项 说明 增量包类型 选择数据服务专享集群增量包。 工作空间 选择需要使用数据服务专享集群增量包的工作空间。例如需要在DataArts Studio实例的工作空间A中使用数据服务专享版，则此处工作空间应选择为A。集群创建成功后，即可通过在工作空间A查看到创建好的数据服务专享集群。 可用区 第一次创建DataArts Studio实例或批增量包时，可用区无要求。 再次创建DataArts Studio实例或增量包时，是否将资源放在同一可用区内，主要取决于您对容灾能力和网络时延的要求。 如果您的应用需要较高的容灾能力，建议您将资源部署在同一区域的不同可用区内。 如果您的应用要求实例之间的网络延时较低，则建议您将资源创建在同一可用区内。 集群名称 集群描述 可以自定义对当前数据服务专享版集群的描述。 版本 当前数据服务专享版的集群版本。 集群规格 不同实例规格，对API请求的并发支持能力不同。 公网入口 开启“公网入口”，即允许外部服务通过公网地址，调用专享版实例创建的API。 带宽大小 可配置公网带宽范围。 虚拟私有云 VPC即虚拟私有云，是通过逻辑方式进行网络隔离，提供安全、隔离的网络环境。 在相同虚拟私有云中的云服务资源（如ECS），可以使用数据服务专享版实例的私有地址调用API。 建议将专享版实例和您的其他关联业务配置一个相同的虚拟私有云，确保网络安全的同时，方便网络配置。 说明 目前DLM实例创建完成后不支持切换虚拟私有云，请谨慎选择所属虚拟私有云。 子网 通过子网提供与其他网络隔离的、可以独享的网络资源，以提高网络安全。 建议将专享版实例和您的其他关联业务配置相同的虚拟私有云下相同的子网，确保网络安全的同时，方便网络配置。 说明 目前DLM实例创建完成后不支持切换子网，请谨慎选择所属子网。 安全组 安全组用于设置端口访问规则，定义哪些端口允许被外部访问，以及允许访问外部哪些地址与端口。 例如，后端服务部署在外部网络，则需要设置相应的安全组规则，允许访问后端服务的地址及其监听端口。 说明 1. 如果开启公网入口，安全组入方向需要放开80（HTTP）和443（HTTPS）端口的访问权限。 2. 目前DLM实例创建完成后不支持切换安全组，请谨慎选择所属安全组。 企业项目 DataArts Studio专享版集群关联的企业项目。企业项目管理是一种按企业项目管理云资源的方式，具体请参见

本文介绍接口加密内容。 1 如何启用加密功能 客户端发起请求时添加请求Header头，decryptedtrue 即可启用接口加密功能。 2 加密算法说明 该功能涉及到三种国密算法，分别为非对称加密SM2、对称加密SM4及特征码算法HmacSM3。 2.1 非对称加密SM2 类似RSA的非对称加密，用来加密客户生成的对称加密SM4密钥。SM2公钥在AI能力开放平台( 2.2 对称加密SM4 客户端自行生成128或者256位SM4密钥，采用BC包(BouncyCastle),格式为SM4/ECB/PKCS5Padding。 2.3 特征码算法HmacSM3 Hmac和SM3算法配合生成特征码串，防止接口被拦截篡改，生成特征码时的密钥需使用。 encryptedHashKey字段传递到服务端。 2.4 客户端加密步骤 1、从控制台获取公钥串，使用Base64解密获取公钥字节数组。 2、生成SM4对称密钥字节数组，使用第1步的公钥加密对称密钥，并使用Base64加密结果，填入ciphertextBlob字段。 3、使用第2步生成的对称密钥加密接口原版Body体JSON串，并使用Base64加密结果，填入encryptedBody字段。 4、生成Hmacsm3哈希密钥，使用公钥进行加密，并使用Base64加密结果，填encryptedHashKey字段。 5、使用Hmacsm3及第4步哈希密钥，提取ciphertextBlob字段特征码并使用Base64加密结果，填入ciphertextBlobHash字段。 6、使用Hmacsm3及第4步哈希密钥，提取encryptedBody字段特征码并使用Base64加密结果，填入encryptedBodyHash字段。

本文介绍如何修改弹性云主机名称。 操作场景 弹性云主机创建成功后，您可以根据需求，修改云主机的名称。 修改弹性云主机实例名称 方法一： 1. 登录控制中心。 2. 单击控制中心顶部的，选择“地域”。 3. 单击左侧导航栏“产品服务列表”，选择“计算 > 弹性云主机”。 4. 将鼠标移动至目标云主机的“实例名称”列。 5. 单击“编辑” ，在弹出的“名称”输入框中修改实例名称。命名规则为： 参数 命名规则 备注 实例名称 长度为263字符。 中英文、数字、字符均可。可与其他云主机的实例名称重复。 6. 单击“确定”，完成弹性云主机名称修改。 方法二： 1. 登录控制中心。 2. 单击控制中心顶部的，选择“地域”。 3. 单击左侧导航栏“产品服务列表”，选择“计算 > 弹性云主机”。 4. 将鼠标移动至目标云主机的“实例/主机名称”列，点击进入详情页。 5. 找到实例名称项目，点击“编辑”按钮 ，在“实例名称”输入框中修改实例名称。 方法三： 1. 登录控制中心。 2. 单击控制中心顶部的，选择“地域”。 3. 单击左侧导航栏“产品服务列表”，选择“计算 > 弹性云主机”。 4. 将鼠标移动至目标云主机的“操作”列，点击“编辑云主机属性”。 5. 找到实例名称项目，在输入框中修改云主机实例名称。 6. 点击“确认”，修改完毕。

本文汇总了使用虚拟私有云产品时常见的安全类问题。 什么条件下可以删除安全组？ 删除安全组前，需要确保该安全组没有与任何云资源相关联。如果安全组被云资源（云主机、物理机等）使用，请先释放对应云资源或者修改云资源使用的安全组，然后再尝试删除安全组。 删除安全组时，若该安全组被另一个安全组规则关联（例如“源地址”选择为该安全组），需先删除或修改关联的安全组规则，然后再尝试删除该安全组。 地域资源池的默认安全组不能删除。 弹性云主机加入安全组过后能否变更安全组？ 可以。 变更安全组的详细操作，请参考实例加入/移出安全组页面。 您也可以选择在弹性云主机的详情页执行变更安全组的操作，具体请参考“查看弹性弹性云主机的安全组”页面。 安全组、ACL服务是否收费？ 安全组和ACL服务均免费。 安全组和ACL服务均免费，但与安全组、ACL搭配使用的其他云产品（例如弹性云主机）将会按照其自身的计费规则收取相应的费用，详情请参见加入安全组或ACL的云产品帮助文档计费章节。例如： 云产品 计费说明 弹性云主机 计费说明 物理机 计费说明

1.5 配置脚本 使用runbgem3.sh部署 BGEM3 模型，使用runrerank.sh部署 BGERerankV2M3 模型。 修改runbgem3.sh与runrerank.sh中的参数，以runbgem3.sh为例： !/bin/bash SBATCH N 1 SBATCH J bgem3 SBATCH o logs/tei.%J.out SBATCH e logs/tei.%J.err SBATCH gresgpu:1 SBATCH nodelistmaster001 SBATCH cpuspertask24 export ENABLEBOOSTTrue export ASCENDRTVISIBLEDEVICES0 export APPIMAGEmistei7.1.RC1800IA2aarch64.sif export MODELDIR/mnt/nvme1n1/model/bgem3 export LOCALIP$(hostname I awk '{print $1}') export LOCALPORT15025 apptainer run nohome writabletmpfs B /usr/local/Ascend/driver:/usr/local/Ascend/driver B /usr/local/sbin/:/usr/local/sbin/ B $MODELDIR:/home/HwHiAiUser/model/bgem3 $APPIMAGE bgem3 0.0.0.0 $LOCALPORT 注意 APPIMAGE为/home/embedding下的软链接名，MODELDIR为模型实际路径，LOCALPORT为服务端口。 二、服务管理 2.1 嵌入式模型服务启动 sh runbgem3.sh INFO: instance started successfully sh runrerank.sh INFO: instance started successfully 2.2 查询服务状态 apptainer instance list INSTANCE NAME PID IP IMAGE bgem3 441013 /home/embedding/mistei7.1.RC1800IA2aarch64.sif appteirerank 441406 /home/embedding/mistei7.1.RC1800IA2aarch64.sif 2.3 嵌入式模型服务停止 apptainer instance stop bgem3 apptainer instance stop appteirerank