本文介绍了如何部署模型推理服务。 概述 推理服务是将训练好的机器学习模型部署为可实时处理预测请求的系统，它涉及模型的配置、部署、监控和弹性伸缩。科研助手的推理服务确保了高效、可靠的推理能力。 操作步骤 1. 登录科研助手控制台。 2. 在控制台左侧导航栏中，选择【科研服务】。 3. 在【科研服务】页面中，单击左上角的【部署服务】。 4. 在【部署服务】页面中,分别需要配置基础信息和资源配置。在基础信息中填写服务名称、选择需要部署服务的模型和模型版本，选择所需的运行环境。在资源配置中选择模型服务所需的资源规格和实例数量。配置完毕后点击【启动服务】，即可创建模型推理服务。 5. 以下是配置项的详细说明： 【基础信息】 配置项 介绍 服务名称 模型推理服务的名称，用于在服务列表中展示模型名称。 算法框架 选择模型所使用的框架，默认pytorch。 模型格式 选择模型推理服务所使用的模型格式，默认torchscript。 运行环境 选择实例运行的镜像，内置了模型推理服务所需的运行环境。 【模型来源】 配置项 介绍 企业项目 选择存放模型的科研文件所在的企业项目。 科研文件 选择存放模型的科研文件。 模型路径 选择模型存放在科研文件中的路径。 【资源配置】 配置项 介绍 队列 选择对应可用区下的队列。 资源规格 选择对应可用区下的资源规格。 实例数量 为模型推理服务所需申请的实例数量。

在高性能计算与人工智能领域飞速发展的当下，数据传输的效率与稳定性已成为决定计算任务成败的关键因素。IB 网络以其卓越的高带宽、超低延迟和可靠的远程直接内存访问（RDMA）技术，为大规模分布式训练、科学计算等场景提供了无与伦比的网络支持。无论是构建大型数据中心集群，还是运行对网络要求严苛的深度学习任务，NVIDIA GPU 物理机与 IB 网络的深度融合都展现出强大的协同优势。本指南将系统梳理 NVIDIA GPU 物理机环境下 IB 卡和GPU相关常见问题，并介绍 gpuburn 测试完整操作流程，帮助您快速掌握处理对策，解锁高效计算的新可能。 一、IB（InfiniBand）背景介绍 在高性能计算与数据中心网络领域，RoCE（RDMA over Converged Ethernet）和 NVIDIA IB（InfiniBand）是实现高速数据传输的两大主流技术，它们虽都支持远程直接内存访问（RDMA），但在架构、性能和应用场景上存在显著差异。 维度 RoCE（RDMA over Converged Ethernet） NVIDIA IB（InfiniBand） 网络类型 基于以太网（Ethernet）的 RDMA 协议 专用高速网络架构（独立于以太网） 物理介质 普通以太网交换机、网线（支持 10/25/100G 等） 专用 IB 交换机、光纤 / 铜缆（支持 100/200/400G 等） 延迟 微秒级（通常 110 μs） 纳秒级（通常 < 1 μs，更低延迟） 协议复杂度 依赖以太网 QoS（如 PFC/ETS）避免拥塞 内置流量控制（如 Credits），无需额外配置 典型场景 通用数据中心、混合网络环境 高性能计算（HPC）、AI 训练集群（如 NVIDIA DGX）

Web应用防火墙（边缘云版）依托天翼云云安全节点形成云安全边缘网络，区别于传统WAF需要在源站前端部署，Web应用防火墙（边缘云版）把安全能力赋能在所有边缘节点，利用分布式节点部署使计算能力更强，有效降低源站计算压力，提升了用户访问质量的同时保护了源站数据的安全。本节介绍了Web应用防火墙（边缘云版）产品的优势。 自主可控的安全防护能力 基于 AI+ 规则双引擎的 Web 攻击识别，构建一体化应用业务安全防护。 业务流量识别与分析，自定义规则匹配用户业务，避免误拦截、漏拦截。 支持Bot流量管理和智能CC防护。 弹性扩容无惧突发风险 分布式集群防护，单点故障自动转移，确保网站的高可用性。 动态调整边缘节点，无缝扩展QPS 防护能力，可达亿级别防护规模。 利用大平台优势，基于全网、全行业流量的攻击数据，结合机器学习算法，构建一套智能防护体系。 便捷的运营与管理 零部署、零运维，支持多云、混合云环境，一键CNAME接入，云端安全专家配置策略。 集中监控和分散维护相结合，NOC 工程师7×24小时集中监控，网络工程师 7×24 小时在线支持，节点现场服务工程师进行服务保障。 支持一键开启IPv6功能，无缝处理IPv4和IPv6流量。 提供可视化报表、态势感知大屏，深入分析安全隐患，清晰把控全局。 敏感的威胁情报感知 0day漏洞快速修复，天翼云安全团队724小时监测，主动发现新型攻击并24小时内响应，帮助用户抵御最新威胁。

本章节向您介绍 VPC对等连接组网迁移资源规划。 网络规划说明 规划VPC及其子网的网段、VPC路由表和ER路由表信息。 迁移过程中，除了添加ER和VPC之间通信的路由，还需要添加一些迁移过程中的验证路由和临时通信路由，迁移完成可以删掉不需要的路由，VPC对等连接迁移组网规划。 不同迁移过程中组网如下三个示意图所示： 迁移前组网示意图如下图所示。 迁移中组网示意图如下图所示。 迁移后组网示意图如下图所示。 说明 以上路由规划详情仅为示例，供您参考，您需要根据实际业务情况规划路由。 VPC对等连接迁移组网规划总体说明表如下所示。 路由表 说明 VPC路由表 迁移前，在VPC的路由表中，指向对等连接的路由目的地址为VPC的子网网段，未覆盖整个VPC网段，因此该对等连接不是连通整个VPC网段，而是连通VPC的子网。 迁移中，需要在VPC路由表中，添加指向VPC对等连接的临时通信路由、指向ER的大网段路由和验证路由。 指向VPC对等连接的临时通信路由，确保迁移过程中，删除原有VPC对等连接路由时流量不中断。 该路由的下一跳可以选择VPC关联的任意对等连接，目的地址不能被其他业务占用，可以选择不常用的任意路由地址。本示例中的地址为1.1.1.1/32、1.1.1.2/32、1.1.1.3/32。 指向ER的大网段路由，用作VPC和ER的通信。 该路由的目的地址即需要覆盖待迁移的所有VPC网段，又不能被其他业务占用。本示例中大网段的地址为172.16.0.0/14，覆盖172.16.0.0/16、172.17.0.0/16和172.18.0.0/16三个VPC网段。 指向ER的验证路由，用于验证VPC和ER的通信。 验证路由网段不能被VPC对等连接覆盖，无法通过对等连接通信，用来验证VPC和ER之间的网络通信情况。本示例中验证路由的地址为172.16.253.0/29、172.17.253.0/29、172.18.253.0/29。 迁移完成后，需要在VPC路由表中删除验证路由和临时通信路由。 ER路由表 迁移中，在ER路由表中，增加指向VPC网段的路由，用于ER和VPC的通信。 开启ER“默认路由表关联”和“默认路由表传播”功能，那么在ER中添加“虚拟私有云（VPC）”连接，系统会自动添加ER指向VPC的路由，无需手动添加。 注意 迁移时，请在VPC路由表中，务必添加指向VPC对等连接的临时通信路由，由于VPC对等连接功能的限制，此路由可以确保迁移过程中，删除VPC对等连接路由时流量不中断。此处流量不中断仅针对本文的方案，您的实际迁移过程中可能会中断流量。指向ER的大网段路由需要覆盖业务范围内的所有VPC网段，如果一个大网段路由不够，您可以根据实际情况规划多个大网段路由。 迁移时，如果VPC对等连接两端的VPC网段存在重叠，则不能开启企业路由器的“默认路由表传播”功能。由于该功能是将整个VPC网段学习到ER路由表中用作目的地址，那么VPC网段重叠时，会导致ER路由表内路由冲突。此时，您需要手动在ER路由表中添加指向VPC连接的路由。 迁移完成后，您可以根据实际业务需要，选择继续使用大网段路由，或者添加和原有路由目的地址一致的路由后，再删除大网段路由。 以下是vpcA的路由表RTBVPCA的规划内容。 目的地址 下一跳类型 下一跳 路由类型 路由作用 存在阶段 172.17.0.0/24 对等连接 peerAB 自定义 目的地址指向vpcB的子网subnetB01 连通子网subnetA01和subnetB01 迁移前/迁移中 172.18.0.0/24 对等连接 peerAC 自定义 目的地址指向vpcC的子网subnetC01 连通子网subnetA01和subnetC01 迁移前/迁移中 1.1.1.1/32 对等连接 peerAB 自定义 目的地址指向任意未被业务占用的IP地址 确保迁移时，VPC对等连接流量不中断 迁移中 172.16.0.0/14 企业路由器 erABC 自定义 目的地址指向覆盖3个VPC的大网段 连通vpcA和erABC 迁移中/迁移完成 172.17.253.0/29 企业路由器 erABC 自定义 目的地址指向vpcB的子网subnetB02 连通subnetB02和erABC 迁移中 172.18.253.0/29 企业路由器 erABC 自定义 目的地址指向vpcC的子网subnetC02 连通subnetC02和erABC 迁移中 以下是vpcB的路由表RTBVPCB的规划内容。 目的地址 下一跳类型 下一跳 路由类型 路由作用 存在阶段 172.16.0.0/24 对等连接 peerAB 自定义 目的地址指向vpcA的子网subnetA01 连通子网subnetA01和subnetB01 迁移前/迁移中 172.18.0.0/24 对等连接 peerBC 自定义 目的地址指向vpcC的子网subnetC01 连通子网subnetB01和subnetC01 迁移前/迁移中 1.1.1.2/32 对等连接 peerAB 自定义 目的地址指向任意未被业务占用的IP地址 确保迁移时，VPC对等连接流量不中断 迁移中 172.16.0.0/14 企业路由器 erABC 自定义 目的地址指向覆盖3个VPC的大网段 连通vpcB和erABC 迁移中/迁移完成 172.16.253.0/29 企业路由器 erABC 自定义 目的地址指向vpcA的子网subnetA02 连通subnetA02和erABC 迁移中 172.18.253.0/29 企业路由器 erABC 自定义 目的地址指向vpcC的子网subnetC02 连通subnetC02和erABC 迁移中 以下是vpcC的路由表RTBVPCC的规划内容。 目的地址 下一跳类型 下一跳 路由类型 路由作用 存在阶段 172.16.0.0/24 对等连接 peerAC 自定义 目的地址指向vpcA的子网subnetA01 连通子网subnetA01和subnetC01 迁移前/迁移中 172.17.0.0/24 对等连接 peerBC 自定义 目的地址指向vpcB的子网subnetB01 连通子网subnetB01和subnetC01 迁移前/迁移中 1.1.1.3/32 对等连接 peerAC 自定义 目的地址指向任意未被业务占用的IP地址 确保迁移时，VPC对等连接流量不中断 迁移中 172.16.0.0/14 企业路由器 erABC 自定义 目的地址指向覆盖3个VPC的大网段 连通vpcC和erABC 迁移中/迁移完成 172.16.253.0/29 企业路由器 erABC 自定义 目的地址指向vpcA的子网subnetA02 连通subnetA02和erABC 迁移中 172.17.253.0/29 企业路由器 erABC 自定义 目的地址指向vpcB的子网subnetB02 连通subnetB02和erABC 迁移中 以下是erABC路由表defaultRouteTable的规划内容。 目的地址 下一跳 连接资源 路由类型 路由作用 存在阶段 172.16.0.0/16 erattachA vpcA 传播路由 目的地址指向vpcA 连通vpcA和erABC 迁移中/迁移完成 172.17.0.0/16 erattachB vpcB 传播路由 目的地址指向vpcB 连通vpcB和erABC 迁移中/迁移完成 172.18.0.0/16 erattachC vpcC 传播路由 目的地址指向vpcC 连通vpcC和erABC 迁移中/迁移完成 源规划说明 迁移过程中，除了创建企业路由器，还需要创建一些迁移所需要的临时资源，迁移完成可以释放资源，VPC对等连接迁移资源。 说明 以下资源规划详情仅为示例，供您参考，您需要根据实际业务情况规划资源。 VPC对等连接迁移资源规划总体说明如下表所示。 资源 说明 虚拟私有云VPC 迁移前，原有3个VPC，每个VPC各有一个子网，关联至VPC默认路由表。 迁移中，在原有VPC下，各新增一个迁移验证子网，该子网网络不能被业务占用。迁移验证子网无法通过对等连接通信，用来验证VPC和ER之间的网络通信情况。 迁移完成后，删除迁移验证子网，释放资源。 VPC对等连接 迁移完成后，删除VPC对等连接，释放资源。 弹性云主机ECS 迁移前，原有3个云主机，运行实际业务。 迁移中，在VPC迁移验证子网内，各创建一个云主机，因此用来验证VPC和ER之间的网络通信情况。 迁移完成后，删除迁移验证子网内的ECS，释放资源。 企业路由器ER 迁移中，创建ER，并添加3个“虚拟私有云（VPC）”连接。 创建ER时，开启“默认路由表关联”和“默认路由表传播”功能，可以免去手动添加路由。 在ER中添加3个“虚拟私有云（VPC）”连接，不开启“配置连接侧路由”功能。 开启该功能后，会自动VPC路由表中自动添加指向ER的路由，目的地址固定为10.0.0.0/8，172.16.0.0/12，192.168.0.0/16。迁移时，需要手动在VPC路由表中添加规划的大网段路由，不能使用自动添加的路由。 注意 如果VPC对等连接两端的VPC网段存在重叠，则不能开启企业路由器的“默认路由表传播”功能。由于该功能是将整个VPC网段学习到ER路由表中用作目的地址，那么VPC网段重叠时，会导致ER路由表内路由冲突。此时，您需要手动在ER路由表中添加指向VPC连接的路由。 VPC资源规划详情如下表所示。 VPC名称 VPC网段 子网名称 子网网段 关联路由表 子网作用 存在阶段 vpcA 172.16.0.0/16 subnetA01 172.16.0.0/24 默认路由表 业务子网 迁移前/迁移完成 vpcA 172.16.0.0/16 subnetA02 172.16.253.0/29 默认路由表 迁移验证子网，验证VPC和ER之间的网络通信 迁移中 vpcB 172.17.0.0/16 subnetB01 172.17.0.0/24 默认路由表 业务子网 迁移前/迁移完成 vpcB 172.17.0.0/16 subnetB02 172.17.253.0/29 默认路由表 迁移验证子网，验证VPC和ER之间的网络通信 迁移中 vpcC 172.18.0.0/16 subnetC01 172.18.0.0/24 默认路由表 业务子网 迁移前/迁移完成 vpcC 172.18.0.0/16 subnetC02 172.18.253.0/29 默认路由表 迁移验证子网，验证VPC和ER之间的网络通信 迁移中 VPC对等连接资源规划详情如下表所示。 VPC对等连接名称 本端VPC 对端VPC 对等连接作用 存在阶段 peerAB vpcA vpcB 连通vpcA的子网subnetA01和vpcB的子网subnetB01网络 迁移前/迁移中 peerAC vpcA vpcC 连通vpcA的子网subnetA01和vpcC的子网subnetC01网络 迁移前/迁移中 peerBC vpcB vpcC 连通vpcB的子网subnetB01和vpcC的子网subnetC01网络 迁移前/迁移中 ECS资源规划详情如下表所示。 ECS名称 VPC名称 子网名称 私有IP地址 镜像 安全组 ECS作用 存在阶段 ecsA01 vpcA subnetA01 172.16.0.139 公共镜像：CentOS 8.2 64bit sgdemo：通用Web服务器 运行业务的云主机 迁移前/迁移中/迁移完成 ecsA02 vpcA subnetA02 172.16.253.3 公共镜像：CentOS 8.2 64bit sgdemo：通用Web服务器 迁移验证子网内的ECS，验证VPC和ER之间网络通信 迁移中 ecsB01 vpcB subnetB01 172.17.0.93 公共镜像：CentOS 8.2 64bit sgdemo：通用Web服务器 运行业务的云主机 迁移前/迁移中/迁移完成 ecsB02 vpcB subnetB02 172.17.253.4 公共镜像：CentOS 8.2 64bit sgdemo：通用Web服务器 迁移验证子网内的ECS，验证VPC和ER之间网络通信 迁移中 ecsC01 vpcC subnetC01 172.18.0.220 公共镜像：CentOS 8.2 64bit sgdemo：通用Web服务器 运行业务的云主机 迁移前/迁移中/迁移完成 ecsC02 vpcC subnetC02 172.18.253.5 公共镜像：CentOS 8.2 64bit sgdemo：通用Web服务器 迁移验证子网内的ECS，验证VPC和ER之间网络通信 迁移中 ER资源规划详情如下表所示。 ER名称 AS号 默认路由表关联 默认路由表传播 自动接受共享连接 关联/传播路由表 连接 存在阶段 erABC 64512 开启 本示例选择“开启”。 如果您的VPC网段存在重叠，则不能开启。 本示例不“开启”。 如果您要将不同账号下的VPC接入ER构建组网，则您可以开启该功能。 默认路由表 erattachA 迁移中/迁移完成 erABC 64512 开启 本示例不“开启”。 如果您的VPC网段存在重叠，则不能开启。 本示例不“开启”。 如果您要将不同账号下的VPC接入ER构建组网，则您可以开启该功能。 默认路由表 erattachB 迁移中/迁移完成 erABC 64512 开启 本示例不“开启”。 如果您的VPC网段存在重叠，则不能开启。 本示例不“开启”。 如果您要将不同账号下的VPC接入ER构建组网，则您可以开启该功能。 默认路由表 erattachC 迁移中/迁移完成 “虚拟私有云”连接资源规划详情如下表所示。 连接名称 连接类型 虚拟私有云 子网 配置连接侧路由 存在阶段 erattachA 虚拟私有云（VPC） vpcA subnetA01 不开启 迁移中/迁移完成 erattachB 虚拟私有云（VPC） vpcB subnetB01 不开启 迁移中/迁移完成 erattachC 虚拟私有云（VPC） vpcC subnetC01 不开启 迁移中/迁移完成

本节介绍印刷文字识别的相关术语解释。 OCR Optical Character Recognition，光学字符识别，一种通过扫描后将文本转换为可编辑数字文本的技术。通过使用图像处理和机器学习等技术，OCR可以将印刷文本转换为计算机可读的数字文本，从而实现对文本的数字化处理和自动化识别。 分段 Segmentation，图像预处理的一个步骤，将文本块从整个图像中分离出来。 二值化 Binarization，将文本图像转换为只包含黑色和白色像素的图像。这种处理方法的优点是能够简化图像处理过程，提高处理效率。 切割 Snapping，将图像中的字符切割成单独的字符，方便后续的字符识别和处理。 识别率 Recognition rate，OCR系统正确识别字符的比率。识别率的计算公式为：（正确识别的字符数 / 总字符数） × 100%。识别率越高，说明OCR系统的性能越好，识别效果越准确。在实际应用中，识别率是评价OCR系统性能的重要标准之一，也是用户选择OCR系统的重要依据之一。 特征提取 Feature extraction，指从原始图像中提取出一些具有代表性的特征，这些特征可以用于描述图像的内容和结构。在文本图像识别中，特征提取是关键步骤之一，它可以帮助机器更好地理解和识别文本信息。 文本框检测 Text frame detection，在图像中识别和定位文本框的位置和大小的过程，可以帮助确定需要识别的文本区域，使OCR只检测感兴趣区域，从而减少OCR系统的计算量和误差。

本章介绍函数工作流如何配置函数初始化。 概述 初始化函数在函数实例启动成功后执行，执行成功后，实例才能开始调用请求处理函数处理请求。FunctionGraph保证一个函数实例在生命周期内，初始化函数成功执行且只能成功执行一次。 应用场景 多个请求处理可以共享的业务逻辑适合放到初始化函数，以降低函数时延，例如深度学习场景下加载规格较大的模型、数据库场景下连接池构建。 前提条件 已创建函数。 初始化函数 1. 登录函数工作流控制台，在左侧的导航栏选择“函数 > 函数列表”。 2. 选择待配置的函数，单击进入函数详情页。 3. 选择“设置 > 高级设置”，开始配置。 开启初始化配置 初始化配置参数说明 参数 说明 配置初始化函数 如需初始化，请开启此参数。 初始化超时时间（秒） 函数初始化的超时时间，如开启函数初始化功能则设置，不开启则不设置。函数初始化超时时间设置范围为1300秒。 函数初始化入口 在函数配置页面中，可以选择开启函数初始化功能。各runtime的函数初始化入口命名规范与原有函数执行入口保持一致。如Node.js和Python函数，命名规则：[文件名].[初始化函数名]。 说明 如不开启函数初始化功能则无需配置函数初始化入口 说明 开启函数初始化功能后，各runtime的函数初始化入口命名规范与原有函数执行入口保持一致。如Node.js和Python函数，命名规则：[文件名].[初始化函数名]。

天翼云边缘安全加速平台的安全与加速服务在对金融网站加速的同时还提供防御金融行业面临的SQL注入、跨站、撞库拖库、数据泄露等多种WEB安全风险,并防御大规模流量攻击,保障网站稳定运行的同时维护用户个人数据和资金安全,满足PCIDSS合规要求。 概述 边缘安全加速平台的安全与加速服务在天翼云CDN边缘节点中加入丰富的安全能力，依托分布各地的边缘节点，形成一张具备安全与加速能力的网络，为政府、金融、教育、游戏等行业的网站提供基于边缘网络的安全加速一体化服务。 安全与加速服务的基础架构图： 产品优势 覆盖丰富的资源覆盖 国内拥有丰富的节点覆盖承载能力，覆盖多运营商、主要省份和城市无盲点。 加速节点可根据需求随时增加，致力于客户的发展壮大。 安全可靠的安全防护 分布式集群防护，单点故障自动转移，确保网站的高可用性。 利用大平台优势，基于全网、全行业流量的攻击数据，结合机器学习算法，构建一套智能防护体系。 精准防护，域名粒度的防护策略，结合客户自身业务定制化防护策略。 维护完善的售后服务 集中监控和分散维护相结合，NOC 工程师7×24小时集中监控，网络工程师7×24小时在线支持，所有节点都有现场服务工程师进行服务保障。 便捷便捷的接入方式 安全加速一体化，基于CDN的架构，实现加速防护一体化。 零部署、零运维、使用CNAME接入，云端安全专家配置策略 透明透明的售卖机制 可根据需要选择资源套餐包产品或按量计费产品，费用透明，可控，灵活。

增强型云主机配套25GE智能网卡，通过软硬结合的方式提高虚拟化性能，大幅提升实例的网络带宽能力和网络收发包能力。 在售型号：c8ne、m8ne 停售型号：c7ne 适用场景 增强型云主机适用各种于网络密集型应用与企业级应用： NFV/SDWAN 移动互联网 视频弹幕 电信业务转发 大中型数据库系统、缓存、搜索集群 大数据分析和机器学习 增强型弹性云主机特点 规格名称 计算 磁盘类型 网络 网络增强计算型c8ne 1.CPU/内存配比：1:2/1:4 2.vCPU数量范围：2192 3.处理器：第五代英特尔®至强®可扩展处理器 4.基频/睿频：2.6GHz/3.1GHz 1.XSSD0 2.XSSD1 1.支持IPv6 2.实例网络性能与计算规格对应，规格越高网络性能越强 3.最大网络收发包：3600万PPS 4.最大内网带宽：64Gbps 网络增强内存型m8ne 1.CPU/内存配比：1:8 2.vCPU数量范围：2192 3.处理器：第五代英特尔®至强®可扩展处理器 4.基频/睿频：2.6GHz/3.1GHz 1.XSSD0 2.XSSD1 1.支持IPv6 2.实例网络性能与计算规格对应，规格越高网络性能越强 3.最大网络收发包：3600万PPS 4.最大内网带宽：64Gbps 网络增强计算型c7ne 1.CPU/内存配比：1:2/1:4 2.vCPU数量范围：2148 3.处理器：第三代英特尔®至强®可扩展处理器 4.基频/睿频：2.8GHz/3.5GHz 1.普通IO 2.高IO 3.通用型SSD 4.超高IO 5.极速型SSD 1.支持IPv6 2.实例网络性能与计算规格对应，规格越高网络性能越强 3.最大网络收发包：3000万PPS 4.最大内网带宽：32Gbps

参数 说明 取值样例 计费模式 按需计费：后付费方式，VPN网关和VPN连接组按使用时长收取费用，计费周期为1小时。 按需计费 区域 选择靠近您所在地域的区域可以降低网络时延，从而提高访问速度。 不同区域的资源之间网络不互通。 请根据实际需要进行选择 名称 VPN网关的名称，只能由中文、英文字母、数字、下划线、中划线、点组成。 vpngw001 网络类型 公网：VPN网关通过公网建立VPN连接。 私网：VPN网关通过私网建立VPN连接。 公网 协议类型 支持“IPv4”和“IPv6”两种类型。 IPv6 关联模式 虚拟私有云 通过VPC向对端网关或本端子网内服务器发送通信消息。 企业路由器 通过ER向对端网关或ER下所有VPC所在子网发送通信消息。 说明 该场景下需要关注企业路由器的路由表条数规格限制。如果对端网关和VPN网关发送的路由条数超过企业路由器的规格，则企业路由器将无法学习到超出部分的路由信息，最终导致VPN网关和对端网关之间的流量不通。 虚拟私有云 虚拟私有云 选择虚拟私有云VPC信息。 vpc001(192.168.0.0/16) 企业路由器 仅“关联模式”采用“企业路由器”时需要配置。 选择企业路由器ER信息。 er001 互联子网 用于VPN网关和VPC通信，请确保选择的互联子网存在4个及以上可分配的IP地址。 192.168.66.0/24 本端子网 VPC与对端网关对应数据中心互通的子网。 选择子网选择本 VPC子网信息。 输入网段 可以输入本VPC下的子网信息；也可以输入与本VPC建立了对等网络的VPC子网信息。 192.168.1.0/24,192.168.2.0/24 BGP ASN VPN网关会根据输入值创建相应的ASN，VPN网关和对端网关的BGP ASN需要不同。 64512 可用区 可用区是指在同一地域内，电力和网络互相独立的物理区域。在同一VPC网络内可用区与可用区之间内网互通，可用区之间能做到物理隔离。 当存在两个及以上可用区时，必须选择两个可用区。 部署在两个可用区的VPN网关具备更高的可用性。建议您根据VPC内资源所在的可用区选择网关的可用区。 当仅存在一个可用区时，可选择此可用区创建VPN网关。 可用区1、可用区2 VPN连接组数 VPN网关默认提供10个免费的VPN连接组。 如果用户侧数据中心只有一个公网出口网关，所有服务器（或用户主机）都通过该网关连接至Internet：这种情况需要配置一个VPN连接组，即VPN网关的两个EIP分别配置一条VPN连接和用户侧出口网关通信。 如果用户侧数据中心有两个公网出口网关，所有服务器（或用户主机）通过两个网关连接至Internet：这种情况需要配置两个VPN连接组，即VPN网关的两个EIP分别配置一条VPN连接和两个用户侧出口网关通信。 10 HA模式 双活：主EIP和主EIP2均与对端网关建立VPN连接，但只有一条VPN连接进行数据交互。当其中一条VPN连接发生故障时，数据交互切换至另一条VPN连接。 主备：主EIP与备EIP均与对端网关建立VPN连接，默认情况下流量仅通过主链路进行传输。如果主链路故障，流量自动切换至备链路进行传输；主链路恢复正常后，流量回切至主链路进行传输。 双活 主EIP 用于VPN网关和对端网关进行网络连接。 现在创建：创建新EIP。 使用已有：使用已有EIP。 现在创建 带宽大小 EIP对应带宽大小，单位：Mbit/s。 所有使用该EIP创建的VPN连接均会分摊占用该EIP的带宽大小，所有VPN连接的带宽总和不能超过该EIP的带宽大小。当网络流量超过EIP的带宽大小时，有可能造成网络拥塞导致VPN连接中断，请提前做好带宽规划。 支持在云监控中配置告警规则对带宽进行监控。支持用户在允许的带宽范围内自定义带宽大小。 10 Mbit/s 带宽名称 EIP对应带宽对象的名称。 Vpngwbandwidth1 主EIP2 一个VPN网关需要绑定一组弹性公网IP（即主EIP、主EIP2），每个公网IP可以独立规划带宽。 现在创建 备EIP 一个VPN网关需要绑定一组弹性公网IP（即主/备EIP），每个公网IP可以独立规划带宽。 说明 VPN网关“计费模式”为“按需计费”场景下，若备EIP为按流量计费，强烈建议用户在云监控中配置告警规则对备EIP进行监控，避免因VPN连接故障、主链路切换至备链路导致的流量费用超支问题。 如何在云监控中对EIP配置告警规则，请参见《弹性IP用户指南》。 现在创建 公网带宽 按需计费支持两种计费方式：按带宽计费/按流量计费。 按带宽计费：指定带宽上限，按使用时间计费，与使用的流量无关。 按流量计费：指定带宽上限，按实际使用的出云流量计费，与使用时间无关。 按流量计费 带宽大小 EIP对应带宽大小，单位Mbit/s。 所有使用该EIP创建的VPN连接均会分摊占用该EIP的带宽大小，所有VPN连接的带宽总和不能超过该EIP的带宽大小。当网络流量超过EIP的带宽大小时，有可能造成网络拥塞导致VPN连接中断，请提前做好带宽规划。 支持在云监控中配置告警规则对带宽进行监控。支持用户在允许的带宽范围内自定义带宽大小。 10 Mbit/s 带宽名称 EIP对应带宽对象的名称。 Vpngwbandwidth2 企业项目 创建VPN时，可以将VPN加入已启用的企业项目。 企业项目管理提供了一种按企业项目管理云资源的方式，帮助您实现以企业项目为基本单元的资源及人员的统一管理，默认项目为default。 关于创建和管理企业项目的详情，请参见《企业项目管理用户指南》。 default 高级配置 仅“网络类型”为“私网”、“关联模式”采用“虚拟私有云”时需要配置。 选择：适用于同租户场景，选择本租户下接入虚拟私有云、接入子网、接入IP。 输入：适用于跨租户场景，填写接入项目、接入账号、接入虚拟私有云和接入子网。 选择 接入虚拟私有云 仅“关联模式”为“虚拟私有云”、“网络类型”为“私网”时需要配置。 当VPN网关的南北向需要连接不同的虚拟私有云时，设置北向的虚拟私有云为该接入虚拟私有云。 VPN网关关联的虚拟私有云为南向业务虚拟私有云。 选择“与网关关联的虚拟私有云一致” 接入子网 缺省情况下，VPN网关从关联的虚拟私有云的互联子网接入。当VPN网关需要从指定子网接入时设置。 选择“与互联子网一致”

增强型云主机配套25GE智能网卡，通过软硬结合的方式提高虚拟化性能，大幅提升实例的网络带宽能力和网络收发包能力。 在售型号：c8ne、m8ne 停售型号：c7ne 适用场景 增强型云主机适用各种于网络密集型应用与企业级应用： NFV/SDWAN 移动互联网 视频弹幕 电信业务转发 大中型数据库系统、缓存、搜索集群 大数据分析和机器学习 增强型弹性云主机特点 规格名称 计算 磁盘类型 网络 网络增强计算型c8ne 1.CPU/内存配比：1:2/1:4 2.vCPU数量范围：2192 3.处理器：第五代英特尔®至强®可扩展处理器 4.基频/睿频：2.6GHz/3.1GHz 1.XSSD0 2.XSSD1 1.支持IPv6 2.实例网络性能与计算规格对应，规格越高网络性能越强 3.最大网络收发包：3600万PPS 4.最大内网带宽：64Gbps 网络增强内存型m8ne 1.CPU/内存配比：1:8 2.vCPU数量范围：2192 3.处理器：第五代英特尔®至强®可扩展处理器 4.基频/睿频：2.6GHz/3.1GHz 1.XSSD0 2.XSSD1 1.支持IPv6 2.实例网络性能与计算规格对应，规格越高网络性能越强 3.最大网络收发包：3600万PPS 4.最大内网带宽：64Gbps 网络增强计算型c7ne 1.CPU/内存配比：1:2/1:4 2.vCPU数量范围：2148 3.处理器：第三代英特尔®至强®可扩展处理器 4.基频/睿频：2.8GHz/3.5GHz 1.普通IO 2.高IO 3.通用型SSD 4.超高IO 5.极速型SSD 1.支持IPv6 2.实例网络性能与计算规格对应，规格越高网络性能越强 3.最大网络收发包：3000万PPS 4.最大内网带宽：32Gbps

Web应用防火墙（原生版） Web应用防火墙（原生版）（CTWAF，Web Application Firewall，简称WAF）基于三大引擎（安全模型检测引擎+智能语义检测引擎+机器学习检测引擎），结合设备指纹、无感验证码、动态人机挑战、动态环境验证、随机化混淆策略、AI驱动的实时决策等关键技术，支持多种常见编码自动还原能力，提供深度攻击防逃逸功能，构建完整的动态防御闭环，有效检测 SQL 注入、XSS 等基于形式语言的攻击类型，有效应对自动化工具、0day漏洞攻击等高风险威胁。打造专业的Web安全防护能力。可为用户Web应用提供一站式安全防护，对Web业务流量进行智能全方位检测，有效识别恶意请求特征并防御，避免源站服务器被恶意入侵，保护网站核心业务安全和数据安全。更多信息请参考++Web应用防火墙++ 配置方式： 如果您拥有弹性IP、公网NAT网关、弹性负载均衡等网络资产，并需要进行公网流量出入的互联网边界防护需求，您可以在云防火墙的“互联网边界开关”页面将这些网络资产接入云防火墙，并配置相关的互联网边界访问控制规则。具体操作，请参见++防火墙开关互联网边界防火墙++、++访问控制配置互联网边界防护规则++ 如果您拥有对等连接、云间高速、云专线等网络资产，并需要针对内网互访进行VPC边界防护，您可以在云防火墙的“VPC边界开关”页面将内网互访流量接入云防火墙，并配置相关的VPC边界访问控制规则。具体操作，请参见++防火墙开关VPC边界防火墙++、++访问控制配置VPC边界防护规则++

本文为您介绍GPU云主机的功能特性。 GPU云主机作为弹性云主机的一类实例规格，保持了部分与弹性云主机实例相同的功能特性，同时也新增了部分独有特性。 全面监控及告警机制，保障云主机正常运行 云资源池提供包括CPU、内存、磁盘和网络使用情况的几十项云主机性能监控指标，并支持查看一段时间内的云主机监控信息，帮助用户了解云主机实例的历史运行情况，还可根据用户预设规则提供及时的告警通知。 通过虚拟私有云（VPC）实现网络的灵活规划 VPC可为云服务器、云容器、云数据库等云上资源构建隔离、 私密的虚拟网络环境。通过VPC可灵活管理云上网络， 包括创建子网、设置安全组和网络ACL、管理路由表、申请弹性公网IP和带宽等。 多种存储类型随意选择，满足不同I/O性能要求 提供普通IO、高IO、通用型SSD和超高IO等多个类型的云硬盘，满足不同业务对IO性能的不同需求。购买方式分为两种，在购买云主机同时购买云硬盘或后期根据需要单独购买云硬盘挂载至云主机上。 可视化管理平台，操作便捷 通过天翼云控制中心对云主机进行管理，可对云主机进行开机、关机、重置密码、重装系统等操作。 规格丰富，满足不同应用场景需求 提供多种实例规格，满足视频解码、图形渲染、深度学习、科学计算等多种场景下不同用户对于GPU的性能需求。配备业界超强算力的GPU显卡，结合高性能CPU平台，单卡最高提供31.2 TFLOPS单精度和9.7 TFLOPS双精度计算，同时支持单机多卡，性能翻倍。

本文为您介绍GPU云主机的产品定义。 GPU云主机是基于GPU的应用于视频解码、图形渲染、深度学习、科学计算等多种场景的计算服务。天翼云GPU云主机采用业界先进的GPU硬件，让客户享受极致性能体验的同时，获得最佳性价比。目前提供基于NVIDIA GRID虚拟化技术的图形加速基础型（G系列）和基于硬件直通技术的计算加速型（P系列）两类。 为什么选择GPU云主机 GPU云主机规格族相比于其他弹性云主机规格族，增加了GPU计算力，与CPU相比，GPU的特点如下： 维度 GPU CPU 核心数量 数千个 几十个 运算单元 拥有大量擅长处理大规模并发计算的算术运算单元 拥有数量较少但强大的算术运算单元 逻辑控制单元 相对简单 复杂 缓存 少量缓存 大量缓存 适用场景 计算密集，相似度高，且多线程并行 逻辑复杂，串行运算 GPU云主机与自建GPU服务器对比 ： 优势 GPU 云主机 自建 GPU 服务器 弹性 分钟级快速创建 。 同规格族内灵活升降配。 云盘、带宽等产品可按需扩容。 建设周期长，且建设完成后硬件配置无法灵活变更。 易用 提供和标准云主机一致的使用方式和管理功能。 与多种云产品无缝接入。 清晰的 GPU 驱动的安装、部署指引。 运营维护成本高、难度大。 安全 通过隧道技术实现100%二层网络隔离，实现安全隔离。 配置安全组和网络ACL，实现云主机和子网层面的访问控制，满足不同行业客户的安全隔离需要。 很难阻止MAC欺骗和ARP攻击，需额外购买基础安全防护服务。 成本 提供包周期和按需两种计费方式，用户可根据自身业务情况灵活选择。 无法按需购买，一次投入成本巨大。

Bot管理版本说明 版本 免费版 高级版 适用场景 适用于小型网站、放行合法爬虫需求。 适用于中小型网站的爬虫防护。 流量/带宽 订购流量或者带宽 订购流量或者带宽 动态请求数 订购动态请求数 订购动态请求数 支持主域名个数 1 1 支持总域名个数（包括主域名和其下的子域名） 1 10 下表描述了主要功能模块在不同套餐中的支持情况。 √：表示在当前版本中支持。 ×：表示在当前版本中不支持。 分类 功能模块 描述 免费版 高级版 业务接入 泛域名防护 支持接入泛域名。 √ √ 业务接入 静态加速 支持将静态资源缓存到边缘节点，达到加速效果。 √ √ 业务接入 动态加速 支持动态资源采用最优链路回源。 × √ 业务接入 WebSockets 支持WebSockets协议 付费支持 付费支持 业务接入 quic协议 支持quic协议 × √ 业务接入 HTTPS防护 支持HTTPS防护。 √ √ 业务接入 IPv6 访问 支持对IPv6访问流量安全检测与防护。 √ √ 业务接入 IPv6 外链改造 提高网站链接的IPv6支持度，解决IPv6天窗问题。 × √ 业务接入 IPv6支持度检测 支持检测网站IPv6链接支持度，并输出分析结果与检测报告。 1 20 业务接入 非标准端口防护 支持防护80、443以外的非标准端口上的业务。 × × 业务接入 HTTP2防护 支持防护使用HTTP/2协议的网站。 √ √ 业务接入 回源IP管理 为了防止攻击者获取您的源站IP直接攻击源站，您可以设置源站服务器的访问控制策略，只放行边缘云节点回源IP段的入方向流量。 × √ 基础安全防护 DDoS防护 主动防御网络层DDoS攻击。 付费支持 付费支持 基础安全防护 Web防护 支持防护常见的Web攻击。 付费支持 付费支持 基础安全防护 自定义防护界面 支持用户自定义响应给客户端的拦截界面。 × √ 基础安全防护 访问控制 支持基于基础字段和高级字段进行组合，设置白名单和黑名单。 5条/域名 20条/域名 基础安全防护 频率控制 支持基于基础字段和高级字段进行组合，设置访问频率。 5条/域名 20条/域名 高级安全防护 验证码 为网页、小程序开发者提供全面的人机验证，适用于登录注册、电商大促、数据保护等场景。 × √ 高级安全防护 爬虫情报 支持针对搜索引擎IP放行、针对恶意Bot请求IP封禁，目前爬虫情报库已维护接近10万条数据。 √ √ 高级安全防护 IP情报 支持针对已维护的IP信誉库，从威胁类型维度（IDC服务器、傀儡机、漏洞利用等十几类）进行IP封禁，目前IP信誉库已维护接近120万条数据。 √ √ 高级安全防护 爬虫陷阱 在页面里面嵌入不可见链接，当爬虫触碰链接时进行防护。 × √ 高级安全防护 高频爬虫限制 防止攻击者盗用合法Cookie进行大量请求，限制不同粒度的访问速率。 × √ 高级安全防护 人机识别策略 通过cookie挑战、跳转挑战、人机挑战等防爬策略，精准命中爬虫流量，拦截各类恶意爬虫。 × √ 高级安全防护 大数据深度学习引擎 基于网站访问流量深度学习，自动生成防护策略。 × √ 高级安全防护 API安全 支持对已接入WAF的API资产进行全面安全防护。 付费支持 付费支持 网站风险监测 漏洞扫描 支持远程扫描Web漏洞和按照国际权威安全机构WASC分类的25种Web应用漏洞，全面覆盖OWASP Top 10 Web应用风险。 1/域名/次/月 2/域名/次/月 网站风险监测 安全事件监测 支持监测网页中挂马及黑链的恶意代码，网页是否被非法篡改 × 任务数：1/个/域名 最小监测周期：12小时 网站风险监测 内容安全监测 支持监测网站文字和图片是否包含涉黄、涉毒、涉政、赌博、暴恐、邪教等敏感内容。 × 任务数：1/个/域名 最小监测周期：12小时 网站风险监测 DNS监测 多线路远程实时监测目标站点在多种网络协议下的响应速度、可访问性等反映网站性能状况的内容 × 任务数：1/个/域名 最小监测周期：30分钟 网站风险监测 可用性监测 支持实时监测各地主流ISP的DNS缓存服务器和用户DNS授权服务器的解析过程及结果。 × 任务数：1/个/域名 最小监测周期：30分钟 产品服务 日志服务 提供攻击日志、业务日志。 √ √ 产品服务 安全报表 提供Web攻击、CC攻击报表。 15天 92天 产品服务 监控告警 支持自定义监控告警。 √ √ 产品服务 安全VIP服务 提供专业安全专家主动运营服务，持续深入定制整体防护方案。 付费支持 付费支持 产品服务 态势感知大屏 提供数据大屏服务，让安全攻防状态一目了然。 付费支持 付费支持

本文从边缘安全加速平台的视角介绍攻防演练最佳实践。 应用场景 快速构建严格的防护模式 重大活动安全保障 安全性评估 前提条件 已经订购边缘安全加速平台安全与加速服务，若未订购，请参见服务开通。 在控制台新增域名，请参见添加服务域名。 建议防护配置 1.漏洞扫描 在安全与加速工作台，进入“安全>>安全能力>>网站风险监测>>快速配置监测任务”页面，快速为域名完成一次漏洞体检。 2.防护策略 设置规则引擎防护 规则防护引擎使用基于正则的规则防护引擎和基于机器学习的 AI 防护引擎，进行 Web 漏洞和未知威胁防护。 支持针对网站提供通过内置和定制化的防护策略。防范应用接口面对的 SQL 注入、命令注入、XSS等攻击，利用语义分析能力在一定程度上解决反序列化的已知与未知漏洞攻击行为。 支持规则模板配置（安全基础配置—漏洞防护配置），用户可根据实际业务需要选择适合的模板，同时提供基于指定域名 URL 和规则 ID 白名单处置策略，进行误报处理。 建议配置如下： 1.开启【Web防护开关】 2.进入【防护规则引擎】配置页面，【防护模式】置为拦截，选择【敏感防护规则集】。 敏感防护规则集包括跨站脚本、数据库注入、命令注入、木马文件、框架漏洞等7大类的防护规则。此规则集防护的等级较为严格，容易误报的规则处理动作为告警，其他规则处理动作为拦截，存在一定误报可能性。

云日志服务日志服务支持如下机器学习函数。 函数列表 函数名称 语法 说明 tscpdetect tscpdetect(x, y, minSize) 寻找时序序列中具有不同统计特性的区间，区间端点即为变点。 tsbreakoutdetect tsbreakoutdetect(x, y, winSize) 寻找时序序列中，某统计量发生陡升或陡降的点。 tsfindpeaks tsfindpeaks(x, y, winSize) 极大值检测函数用于在指定窗口中寻找序列的局部极大值。 tspredicatesimple tspredicatesimple(x, y, nPred, isSmooth) 利用默认参数对时序数据进行建模，并进行简单的时序预测和异常点的检测。 tspredicatear tspredicatear(x, y, p, nPred, isSmooth) 使用自回归模型对时序数据进行建模，并进行简单的时序预测和异常点的检测。 tspredicatearma tspredicatearma(x, y, p, q, nPred, isSmooth) 使用移动自回归模型对时序数据进行建模，并进行简单的时序预测和异常点检测。 tspredicatearima tspredicatearima(x, y, p, d, q, nPred, isSmooth) 使用带有差分的移动自回归模型对时序数据进行建模，并进行简单的时序预测和异常点检测。 tsdensitycluster tsdensitycluster(x, y, z) 使用密度聚类方法对多条时序数据进行聚类。 tshierarchicalcluster tshierarchicalcluster(x, y, z) 使用层次聚类方法对多条时序数据进行聚类。 tssmoothsimple tssmoothsimple(x, y) 默认平滑函数，使用HoltWinters算法对时序数据进行滤波操作。 tssmoothfir tssmoothfir(x, y,winType,winSize) tssmoothfir(x, y,array()) 使用FIR滤波器对时序数据进行滤波操作。 tssmoothiir tssmoothiir(x, y, array(), array()) 使用IIR滤波器对时序数据进行滤波操作。

云日志服务日志服务支持如下机器学习函数。 函数列表 函数名称 语法 说明 tscpdetect tscpdetect(x, y, minSize) 寻找时序序列中具有不同统计特性的区间，区间端点即为变点。 tsbreakoutdetect tsbreakoutdetect(x, y, winSize) 寻找时序序列中，某统计量发生陡升或陡降的点。 tsfindpeaks tsfindpeaks(x, y, winSize) 极大值检测函数用于在指定窗口中寻找序列的局部极大值。 tspredicatesimple tspredicatesimple(x, y, nPred, isSmooth) 利用默认参数对时序数据进行建模，并进行简单的时序预测和异常点的检测。 tspredicatear tspredicatear(x, y, p, nPred, isSmooth) 使用自回归模型对时序数据进行建模，并进行简单的时序预测和异常点的检测。 tspredicatearma tspredicatearma(x, y, p, q, nPred, isSmooth) 使用移动自回归模型对时序数据进行建模，并进行简单的时序预测和异常点检测。 tspredicatearima tspredicatearima(x, y, p, d, q, nPred, isSmooth) 使用带有差分的移动自回归模型对时序数据进行建模，并进行简单的时序预测和异常点检测。 tsdensitycluster tsdensitycluster(x, y, z) 使用密度聚类方法对多条时序数据进行聚类。 tshierarchicalcluster tshierarchicalcluster(x, y, z) 使用层次聚类方法对多条时序数据进行聚类。 tssmoothsimple tssmoothsimple(x, y) 默认平滑函数，使用HoltWinters算法对时序数据进行滤波操作。 tssmoothfir tssmoothfir(x, y,winType,winSize) tssmoothfir(x, y,array()) 使用FIR滤波器对时序数据进行滤波操作。 tssmoothiir tssmoothiir(x, y, array(), array()) 使用IIR滤波器对时序数据进行滤波操作。

Pi2型弹性云主机功能如下： 处理器与内存配比为1:4。 处理器：第二代英特尔® 至强® 可扩展处理器 6278，主频2.6GHz，睿频3.5GHz，或英特尔® 至强® 可扩展处理器 6151, 主频3.0GHz，睿频3.4GHz 支持NVIDIA Tesla T4 GPU卡，单实例最大支持4张T4 GPU卡。 提供GPU硬件直通能力。 单GPU单精度计算能力最高8.1 TFLOPS。 单GPU INT8计算能力最高130 TOPS。 单GPU提供16GiB GDDR6显存，带宽320GiB/s。 内置1个NVENC和2个NVDEC。 常规支持软件列表 Pi2实例主要用于GPU推理计算场景，例如图片识别、语音识别、自然语言处理等场景。也可以支持轻量级训练场景。 常用的软件支持列表如下： Tensorflow、Caffe、PyTorch、MXNet等深度学习框架。 使用须知 Pi2型云主机，关机后基础资源(包括vCPU、内存、镜像)不计费，但系统盘仍会收取容量对应的费用。如有其他绑定的产品，如云硬盘、弹性IP、带宽等，按各自产品的计费方法进行收费。 说明 Pi2型云主机，关机后资源会被释放，下次开机时如果后台资源不足，可能会导致云主机开机失败。如果您需要长期使用该云主机，建议保持开机状态。 Pi2型弹性云主机当前支持如下版本的操作系统： − Windows Server 2016 Standard 64bit − Ubuntu Server 16.04 64bit − CentOS 7.5 64bit Pi2型云主机，所在物理机发生故障时，云主机支持自动恢复。 使用公共镜像创建的Pi2型云主机，默认已安装Tesla驱动。 使用私有镜像创建的Pi2型云主机，请确认在制作私有镜像时已安装Tesla驱动。如果未安装，请在云主机创建完成后安装驱动，以实现计算加速功能。详细操作请参考GPU加速型实例安装Tesla驱动及CUDA工具包章节。

本文带您了解训推服务的功能特性。 简化训练和部署的复杂流程 在传统的AI模型研发流程中，科研人员需要经历一系列繁琐的环节，包括数据准备、模型构建、模型训练、模型评估、模型优化以及模型部署等。这些环节不仅涉及数据工程、模型框架、算法开发、模型加速等多个技术领域，还要求科研人员熟练使用数据治理工具、数据标注工具、数据管理工具、数据读取工具等一系列专业工具组件。同时，他们还需处理这些工具与硬件环境、操作系统环境的适配问题，以及管理众多的依赖环境包。这一复杂过程不仅耗时耗力，而且大大提高了模型研发的使用成本和复杂程度。 训推智算服务平台通过整合全链路的工具组件，实现了训练与部署流程的极大简化，为科研人员提供了一站式解决方案。用户无需再为繁杂的工具和环境配置而烦恼，只需专注于模型的核心研发工作。智算开发平台不仅降低了大模型开发的使用门槛，更让AI技术的普及和应用变得更加便捷和高效。 开箱即用，降低调优成本 大模型场景下训练数据处理和使用的过程尤为复杂。硬件层面，需确保编译环境、框架工具、依赖资源包等与硬件完美适配。软件层面，需保障操作系统、深度学习框架、编译器等软件工具的顺畅运行。针对大模型的训练和调优更是加剧了整个过程的复杂程度，同时伴随着大量的时间和算力资源的消耗。传统训练调优工具往往无法满足要求。 训推智算服务平台为用户带来了便利，通过平台，用户无需进行任何额外的配置或调试，开箱即用。平台预置了丰富的预训练模型和镜像环境，针对不同场景提供了多样化预置数据集，确保用户能够迅速投入工作。同时，平台集成了大模型微调训练工具，适用于专属大模型的快速训练。此外，平台还支持分布式训练和DeepSpeed加速框架，提供断点续训功能，支持小样本微调，使用户能够轻松定制专属模型，极大地降低了调优成本，提高了研发效率。

本文带您了解一站式智算服务平台的功能特性。 简化训练和部署的复杂流程 在传统的AI模型研发流程中，科研人员需要经历一系列繁琐的环节，包括数据准备、模型构建、模型训练、模型评估、模型优化以及模型部署等。这些环节不仅涉及数据工程、模型框架、算法开发、模型加速等多个技术领域，还要求科研人员熟练使用数据治理工具、数据标注工具、数据管理工具、数据读取工具等一系列专业工具组件。同时，他们还需处理这些工具与硬件环境、操作系统环境的适配问题，以及管理众多的依赖环境包。这一复杂过程不仅耗时耗力，而且大大提高了模型研发的使用成本和复杂程度。 一站式智算服务平台通过整合全链路的工具组件，实现了训练与部署流程的极大简化，为科研人员提供了一站式解决方案。用户无需再为繁杂的工具和环境配置而烦恼，只需专注于模型的核心研发工作。智算开发平台不仅降低了大模型开发的使用门槛，更让AI技术的普及和应用变得更加便捷和高效。 开箱即用，降低调优成本 大模型场景下训练数据处理和使用的过程尤为复杂。硬件层面，需确保编译环境、框架工具、依赖资源包等与硬件完美适配。软件层面，需保障操作系统、深度学习框架、编译器等软件工具的顺畅运行。针对大模型的训练和调优更是加剧了整个过程的复杂程度，同时伴随着大量的时间和算力资源的消耗。传统训练调优工具往往无法满足要求。 一站式智算服务平台为用户带来了便利，通过平台，用户无需进行任何额外的配置或调试，开箱即用。平台预置了丰富的预训练模型和镜像环境，针对不同场景提供了多样化预置数据集，确保用户能够迅速投入工作。同时，平台集成了大模型微调训练工具，适用于专属大模型的快速训练。此外，平台还支持分布式训练和DeepSpeed加速框架，提供断点续训功能，支持小样本微调，使用户能够轻松定制专属模型，极大地降低了调优成本，提高了研发效率。

本文主要介绍Volcano调度器。 插件简介 Volcano调度器是一个基于Kubernetes的批处理平台，提供了机器学习、深度学习、生物信息学、基因组学及其他大数据应用所需要而Kubernetes当前缺失的一系列特性。 Volcano提供了高性能任务调度引擎、高性能异构芯片管理、高性能任务运行管理等通用计算能力，通过接入AI、大数据、基因、渲染等诸多行业计算框架服务终端用户。(目前Volcano项目已经在Github开源) Volcano针对计算型应用提供了作业调度、作业管理、队列管理等多项功能，主要特性包括： 丰富的计算框架支持：通过CRD提供了批量计算任务的通用API，通过提供丰富的插件及作业生命周期高级管理，支持TensorFlow，MPI，Spark等计算框架容器化运行在Kubernetes上。 高级调度：面向批量计算、高性能计算场景提供丰富的高级调度能力，包括成组调度，优先级抢占、装箱、资源预留、任务拓扑关系等。 队列管理：支持分队列调度，提供队列优先级、多级队列等复杂任务调度能力。 项目开源地址： 安装插件 步骤 1 登录CCE控制台，单击集群名称进入集群，单击左侧导航栏的“插件管理”，在右侧找到 Volcano ，单击“安装”。 步骤 2 该插件可配置“单实例”、“高可用”或自定义规格。 选择自定义时，volcanocontroller和volcanoscheduler的建议值如下： 小于100个节点，可使用默认配置，即CPU的申请值为500m，限制值为2000m；内存的申请值为500Mi，限制值为2000Mi。 高于100个节点，每增加100个节点（10000个Pod），建议CPU的申请值增加500m，内存的申请值增加1000Mi；CPU的限制值建议比申请值多1500m，内存的限制值建议比申请值多1000Mi。 volcanocontroller和volcanoscheduler的建议值 节点/Pods规模 CPU Request(m) CPU Limit(m) Memory Request(Mi) Memory Limit(Mi) 50/5k 500 2000 500 2000 100/1w 1000 2500 1500 2500 200/2w 1500 3000 2500 3500 300/3w 2000 3500 3500 4500 400/4w 2500 4000 4500 5500 步骤 3 配置volcano默认调度器配置参数。 cacert: '' defaultschedulerconf: actions: 'allocate, backfill' tiers: plugins: name: 'priority' name: 'gang' name: 'conformance' plugins: name: 'drf' name: 'predicates' name: 'nodeorder' plugins: name: 'ccegputopologypredicate' name: 'ccegputopologypriority' name: 'ccegpu' plugins: name: 'nodelocalvolume' name: 'nodeemptydirvolume' name: 'nodeCSIscheduling' name: 'networkresource' servercert: '' serverkey: '' 插件 功能 参数说明 用法演示 binpack 将pod调度到资源使用较高的节点以减少资源碎片 binpack.weight：binpack插件本身在所有插件打分中的权重 binpack.cpu：cpu资源在资源比重的比例，默认是1 binpack.memory：memory资源在所有资源中的比例，默认是1l binpack.resources： plugins: name: binpack arguments: binpack.weight: 10 binpack.cpu: 1 binpack.memory: 1 binpack.resources: nvidia.com/gpu, example.com/foo binpack.resources.nvidia.com/gpu: 2 binpack.resources.example.com/foo: 3 conformance 跳过关键Pod，比如在kubesystem命名空间的Pod，防止这些Pod被驱逐 gang 将一组pod看做一个整体去分配资源 priority 使用用户自定义负载的优先级进行调度 overcommit 将集群的资源放到一定倍数后调度，提高负载入队效率。负载都是deployment的时候，建议去掉此插件或者设置扩大因子为2.0。 overcommitfactor: 扩大因子，默认是1.2 plugins: name: overcommit arguments: overcommitfactor: 2.0 drf 根据作业使用的主导资源份额进行调度，用的越少的优先 predicates 预选节点的常用算法，包括节点亲和，pod亲和，污点容忍，node ports重复，volume limits，volume zone匹配等一系列基础算法 nodeorder 优选节点的常用算法 nodeaffinity.weight：节点亲和性优先调度，默认值是1 podaffinity.weight：pod亲和性优先调度，默认值是1 leastrequested.weight：资源分配最少的的节点优先，默认值是1 balancedresource.weight：node上面的不同资源分配平衡的优先，默认值是1 mostrequested.weight：资源分配最多的的节点优先，默认值是0 tainttoleration.weight：污点容忍高的优先调度，默认值是1 imagelocality.weight：node上面有pod需要镜像的优先调度，默认值是1 selectorspread.weight: 把pod均匀调度到不同的节点上，默认值是0 volumebinding.weight: local pv延迟绑定调度，默认值是1 podtopologyspread.weight: pod拓扑调度，默认值是2 plugins: name: nodeorder arguments: leastrequested.weight: 1 mostrequested.weight: 0 nodeaffinity.weight: 1 podaffinity.weight: 1 balancedresource.weight: 1 tainttoleration.weight: 1 imagelocality.weight: 1 volumebinding.weight: 1 podtopologyspread.weight: 2 ccegputopologypredicate GPU拓扑调度预选算法 ccegputopologypriority GPU拓扑调度优选算法 ccegpu 结合CCE的GPU插件支持GPU资源分配，支持小数GPU配置 numaaware numa拓扑调度 weight: 插件的权重 networkresource 支持预选过滤ENI需求节点，参数由CCE传递，不需要手动配置 NetworkType: 网络类型（eni或者vpcrouter类型） nodelocalvolume 支持预选过滤不符合local volume需求节点 nodeemptydirvolume 支持预选过滤不符合emptydir需求节点 nodeCSIscheduling 支持预选过滤everest组件异常节点 步骤 4 单击“安装”。

本文介绍边缘安全加速平台的产品优势。 随着全球在线业务的发展，企业拓展业务的趋势日益增长，这也为用户体验和数据资产安全带来了更为复杂的挑战。 AOne边缘安全加速平台提供了加速、计算和安全为一体的服务，为您的业务运营提供全方位的保障。 极致的加速体验 优质的资源覆盖： CN2 和 163 互备支撑，所有节点和 IDC 出口并行，避免峰值带宽拥堵。 智能高效：智能分离站点内容，实现网络智能加速。 传输优化：基于先进的内核技术及自研的私有协议，大幅提升传输效率。 多业务加速：支持 http / https 协议加速、上传加速、websocket 加速、IPv6 升级等。 37层一体化防护 DDoS 防护：提供分布式DDoS攻击清洗，超百G节点大区粒度覆盖，防护总带宽超过12T。结合云原生、智能调度能力，实现资源动态扩容，攻击调度，满足用户三网防护需求，保障业务可用性。 Web 安全防护：基于 AI+ 规则的 Web 攻击识别，有效防御 SQL 注入、XSS 跨站脚本攻击等 OWASP TOP 10的关键 Web 风险。 Bot管理：基于已知Bot情报、精准访问控制、客户端特性识别、人机交互验证、机器学习等智能识别与检测技术，对业务流量进行实时检测和分析，智能识别并区分真实用户流量与各类Bot流量。 API 安全防护：基于安全可靠的接入认证方式，保证 API 访问安全。 持续认证动态评估：持续认证过程引入RBAC（基于角色的访问控制）与ABAC（基于属性的访问控制）鉴权体系，能根据角色及用户属性、环境属性、资源属性等综合授予用户访问权限。 全链路HTTPS：支持全链路HTTPS安全传输方案，防劫持防篡改，保护数据安全。 基于全网的HTTPDNS防劫持：支持用户通过HTTPDNS协议访问天翼云服务器，绕过运营商的LocalDNS解析，避免域名在解析阶段被劫持。 全周期安全保护：基于可信授权、最小授权、持续认证、业务隐身、终端安全、应用安全、链路安全等核心能力，对访问过程进行持续的安全保护，实现在任意网络环境中安全访问企业资源。

示例：通过元数据配置云主机的python环境 场景：在使用python过程中，我们经常需要安装很多依赖包，并且每个包之间互相有版本限制（比如在深度学习框架中，Keras与TensorFlow之间需要版本对应）。此时我们可以通过创建元数据，来记录该云主机所需要的python包环境的版本信息。 首先，console界面远程登录云主机，进入远程界面后，查看当前python包信息： 我们需要将关键的包的版本信息写入。 这里我们以部分包为例，执行openapi创建云主机的自定义元数据： python 按照创建云数据的openapi文档填写相关参数 createmetadataparams { "regionID": huadong1regionid, "azName": huadong1az1, "instanceID": huadong1instance, "metadta": { "requeirements": { "requests": "2.27.1"， "numpy": "1.16.6", "matplotlib": "2.2.5" } } } 这里省略post方法的定义，该方法的实现请参考天翼云官网文档中的python示例文档 url " resmetadatacreate post(url, paramscreatemetadataparams) 执行结果： python { "returnObj": { "instanceID": "c44de03e300b72371827b51aeaff3ccd", "metadata": { "requeirements": { "requests": "2.27.1", "numpy": "1.16.6", "matplotlib": "2.2.5" } } }, "details": "", "message": "SUCCESS", "description": "成功", "statusCode": 800 } 在创建过元数据后，我们可以在云主机内使用相关脚本，对python进行相应的配置。 python示例脚本（test.py）： python import json import subprocess HOST "169.254.169.254" URL HOST + "/specmetadata" FILEREQUEIRE "requirements.txt" def sendcommand(command): commandls command.split() process subprocess.Popen(commandls, stdoutsubprocess.PIPE) output, err process.communicate() return output.decode("utf8") if name "main": res sendcommand("curl s %s" % URL) metadata json.loads(res) requeireinfo metadata.get("requeirements") with open(FILEREQUEIRE, "w") as f: for k, v in requeireinfo.items(): writeinfo "%s%s" % (str(k), str(v)) f.writelines(writeline) tsinghuaimage "

梳理网站的历史访问与攻击情况 单用户的访问频率一般有多少，有助于后续制定合适的频率控制策略。 是否遭受过大流量网络层攻击，判断是否需要开通DDoS服务以及开通多少防护规格。 是否遭受过大量高频的CC攻击，有助于提前配置对应的CC防护策略。 域名接入安全与加速服务 新增域名 需要进入边缘安全加速平台控制台的安全与加速服务，添加加速域名成功后，将域名DNS解析到域名的CNAME，具体操作见新增域名。 配置域名基础配置 根据需求针对域名的回源配置、Websocket、HTTPS配置、IPv6等进行更高级的配置，具体操作见基础配置。 配置域名加速配置 根据需求针对域名的缓存相关配置进行配置，具体操作见缓存配置。 配置域名防护策略 域名接入边缘安全加速平台后，您可根据网站业务需求选择合适的防护策略，具体操作见网站防护配置。 安全基础配置 选择适合您的网站防护模式，默认为告警模式；漏洞防护配置一般情况下建议选择敏感防护规则集，适用于常规网站，且允许少量误报的业务场景。 高级防护 安全与加速服务提供高级防护功能，包括CSRF防护、cookie防护、敏感词防护、攻击挑战、广告防护、网页防篡改等，高级防护功能默认为关闭状态，您可以根据业务需要选择开启响应的防护功能。 访问控制 访问控制可针对IP,IP段，URI，METHOD，请求地区，请求参数，请求头部，请求协议进行组合，设置白名单和黑名单，对请求进行拦截和放行， 保证客户网站不受未知访问的攻击 。 合规检测 合规检测功能可以根据用户实际配置的条件，检查HTTP协议头部，对HTTP请求信息中的方法以及参数长度等信息进行检测，对不符合要求的请求项进行拦截或告警。 域名规则配置 使用基于正则的规则防护引擎和基于机器学习的 AI 防护引擎，进行 Web 漏洞和未知威胁防护， 您可以查看对应的防护规则 ，根据您的业务需求选择开启或关闭规则。 CC配置 CC防护根据访问者的URL，频率、行为等访问特征，迅速智能地识别CC攻击并进行拦截，在大规模CC攻击时可以避免源站资源耗尽，保证企业网站的正常访问。

步骤2：域名接入WAF 此步骤需要进入WAF控制台，添加加速域名并配置 CNAME，操作详情请参考： 操作指导WAF接入。 步骤3：域名管理 对资源文件的回源地址进行管理以及配合源站实际业务场景进行更高级的配置，包括源站配置、缓存配置等，操作详情请参考：操作指导域名管理。 步骤4：配置防护策略 如上图所示，域名接入WAF后，您可根据网站业务需求选择合适的防护策略。 安全基础配置 选择适合您的网站防护模式，默认为告警模式；漏洞防护配置一般情况下建议选择敏感防护规则集，适用于常规网站，且允许少量误报的业务场景。更多配置详情请参考：设置规则防护。 高级防护 提供WAF的高级防护功能，包括CSRF防护、cookie防护、敏感词防护、攻击挑战、广告防护、网页防篡改等，高级防护功能默认为关闭状态，您可以根据业务需要选择开启响应的防护功能。配置详情请参考：安全防护配置。 账户安全防护 账户安全防护提供对网站账户的防护，包括撞库防护、暴力破解防护。配置详情请参考：安全防护配置账户安全防护。 访问控制 访问控制可针对IP,IP段，URI，METHOD，请求地区，请求参数，请求头部，请求协议进行组合，设置白名单和黑名单，对请求进行拦截和放行， 保证客户网站不受未知访问的攻击 。配置详情请参考：安全防护配置访问控制。 合规检测 合规检测功能可以根据用户实际配置的条件，检查HTTP协议头部，对HTTP请求信息中的方法以及参数长度等信息进行检测，对不符合要求的请求项进行拦截或告警。配置详情请参考：安全防护配置合规检测策略。 域名规则配置 使用基于正则的规则防护引擎和基于机器学习的 AI 防护引擎，进行 Web 漏洞和未知威胁防护， 您可以查看对应的防护规则 ，根据您的业务需求选择开启或关闭规则。 CC配置 CC防护根据访问者的URL，频率、行为等访问特征，迅速智能得识别CC攻击并进行拦截，在大规模CC攻击时可以避免源站资源耗尽，保证企业网站的正常访问。配置详情请参考：安全防护配置CC配置。

本文将介绍如何使用边缘安全加速平台安全与加速服务的内容安全监测功能。 功能介绍 天翼云监测系统平台依托海量数据训练的先进深度学习模型，能够精准监测网页中的文本与图片元素，快速识别并提取其中的敏感内容及其所属类别。平台支持多种主流内容格式，包括txt、html、wmlc、wml、xhtml、mht等，可全面覆盖各类网站的文本与图片内容监测需求。在合规性监测方面，平台涵盖涉黄、涉毒、涉政、赌博、暴恐、邪教等关键类别，能够对网站文本和图片内容进行全方位筛查，确保网络空间的健康与安全。 支持监测的图像格式包括但不限于JPEG、GIF、PNG、BMP、TIFF、JPEG2000；支持监测的文本格式包括但不限于Big5、UTF8、GBK、GB2312。 监测任务发现页面出现敏感信息后，将第一时间通知用户。用户可参考天翼云提供的安全建议及时删除敏感内容，避免事件影响扩散，给自身带来声誉和法律风险。用户也可以自定义所关心的敏感关键词。 前提条件 已经订购边缘安全加速平台安全与加速服务，若未订购，请参见服务开通。 开通套餐为基础版及以上版本。 监测任务配置 若您需要监测网站文本、图片内容的合规性，请先配置监测任务。 配置项 配置项说明 任务名称 支持配置任务名称，如客户名内容安全监测 检测开关 开启或关闭 检测URI 默认输入/，即监测首页。默认去问号监测，即去除URL中问号（?）及其后的所有参数部分，仅对URL的主路径部分进行监测。 检测范围 默认检测当前页面及一级链接，支持配置检测范围至七级链接 监测周期 支持配置监测周期，可选3、6、12、24小时，默认监测周期为24小时 监测项 支持配置文本监测、图片监测 文本检测可支持AI审核或规则匹配，其中AI审核支持配置审核规格为严格、宽松或自定义，自定义审核阈值支持配置0.51的值，您可根据实际审核情况来配置，阈值越低，代表审核越严格。另外支持配置白名单词库与白名单URL，在白名单范围内的信息将不进行监测。规则匹配则支持从现有的敏感词库中匹配敏感词进行监测 图片监测支持配置审核规格为严格、宽松或自定义，自定义审核阈值支持配置0.51的值，您可根据实际审核情况来配置，阈值越低，代表审核越严格。并支持配置白名单URL，白名单内的URL将不进行监测. 支持选择是否监测外链，若现在是，可检测网站引入的外链是否有内容安全风险。 告警设置 连续检测N次异常则产生通知 通知方式 即告警通知和短信通知

模型压缩旨在帮助客户在尽量不减少模型效果的前提下压缩模型大小，进而提升模型在推理调用时的性能。 前置条件 资源准备：本功能仅支持910b硬件。 模型准备：您需要先对支持评估的模型完成模型精调后，再在评估页面创建评估任务。 创建模型压缩任务 1. 您可通过以下方式使用： 1. 入口1：进入“模型工具”>“模型压缩”菜单，进入评估任务列表，点击【创建压缩任务】，进入创建页面； 2. 入口2：进入“智算资产”>“我的模型”菜单，在我的模型菜单页面中，找到支持压缩的模型，点击【压缩】按钮，进入到创建页面。 2. 进入创建压缩任务页面后，填写相关配置： 类型 字段 说明 基本信息 任务名称 压缩任务名称，不超过20个字符 基本信息 任务描述 该任务的描述，300个字符以内 模型配置 选择源模型 此处支持选择用户希望压缩的模型，目前仅支持Llama38BInstruct基座模型精调出的模型 模型配置 模型创建方式 选择压缩后模型的保存方式，支持保存为已有模型新版本（默认为最新版本）或保存为新模型（默认V1版本） 模型配置 选择已有模型/新模型名称 选择已有模型：同一模型各版本的基础模型需保持一致，已自动过滤不符合要求的模型； 新模型名称：保存为新模型的名称 压缩策略配置 压缩方法 选择压缩方法，支持W8A16与稀疏化： W8A16：WxAxCx中W、A、C分别代表模型权重（weight）、激活（activation）和键值缓存（kv cache），数字x代表模型压缩后相应部分的比特数。模型压缩过程后，高比特浮点数会映射到低比特量化空间，从而达到降低显存占用、提升推理性能等目的。 模型的推理性能收益均需要通过实际测试获得，表中策略类型仅做参考。W8A16的权重使用8位整数量化，但是激活值仍然保留较高的精度，通常是使用16位浮点数（FP16）或者混合精度（MixedPrecision）。这种方式相比于W8A8，可能会提供更好的模型准确性，但是代价是在激活值上保留了更高的精度，因此可能不会像 W8A8那样大幅度减少内存使用。 稀疏化：是指在深度学习模型中通过将模型参数中的一些元素设为零来减少模型的计算量和存储需求，从而实现模型轻量化的目的。稀疏化不仅能有效地压缩模型，还能够加速推理过程，尤其是在硬件资源有限的设备上（如嵌入式系统或移动设备）。通过算法判断模型权重中每个元素对精度结果的重要性，并将模型权重中对最终精度影响小的权重值置零的过程。 资源配置 集群 选择适合的集群 资源配置 队列 选择可用资源配额 资源配置 资源规格 选择资源规格类型，不同的算力规格对应不同的价格 3. 点击提交，创建压缩任务。

态势感知（专业版）与企业主机安全HSS服务的区别。 服务含义区别 态势感知（专业版）是云原生的新一代安全运营中心，基于云原生安全，提供云上资产管理、安全态势管理、安全信息和事件管理、安全编排与自动响应等能力，可以鸟瞰整个云上安全，精简云安全配置、云防护策略的设置与维护，提前预防风险，同时，可以让威胁检测和响应更智能、更快速，帮助您实现一体化、自动化安全运营管理，满足您的安全需求。 企业主机安全（Host Security Service，HSS）是以工作负载为中心的安全产品，集成了主机 安全、容器 安全和 网页防篡改 ，旨在解决混合云、多云数据中心基础架构中服务器工作负载的独特保护要求。 简而言之，态势感知（专业版）是呈现全局 安全态势的服务，HSS是提升主机 和容器安全性的服务。 服务功能区别 态势感知（专业版）通过采集 全网安全数据 （包括HSS、WAF、AntiDDoS等安全服务检测数据），提供云上资产管理、安全态势管理、安全信息和事件管理、安全编排与自动响应等能力，帮助您实现一体化、自动化安全运营管理，满足您的安全需求。 HSS通过在主机中安装Agent，使用AI、机器学习和深度算法等技术分析主机中风险，并从HSS云端防护中心下发检测和防护任务，全方位保障主机安全。同时可从可视化控制台，管理主机Agent上报的安全信息。 态势感知（专业版）与HSS主要功能区别： 功能项 共同点 不同点 资产安全 主机资产 呈现主机资产的整体安全状态。 态势感知（专业版）：仅支持同步HSS主机资产风险信息，列表呈现各主机资产的整体安全状况。 HSS：不仅支持呈现主机的安全状况，还支持深度扫描主机中的账号、端口、进程、Web目录、软件信息和自启动任务。 资产安全 网站资产 态势感知（专业版）：支持检查和扫描网站安全状态，列表呈现各网站资产的整体安全状况。 HSS：不支持该功能。 漏洞管理 主机漏洞 呈现主机漏洞扫描结果，管理主机漏洞。 态势感知（专业版）：仅支持同步HSS主机漏洞扫描结果，管理主机漏洞。 HSS：支持检测Linux漏洞、Windows漏洞、WebCMS漏洞、应用漏洞，提供漏洞概览，包括主机漏洞检测详情、漏洞统计、漏洞类型分布、漏洞TOP5和风险服务器TOP5，帮助您实时了解主机漏洞情况。 基线检查 云服务基线 态势感知（专业版）：针对云服务关键配置项，从多种风险类别，了解云服务风险配置的所在范围和风险配置数目。 HSS：不支持该功能。 基线检查 主机基线 态势感知（专业版）：不支持该功能。 HSS：针对主机，提供基线检查功能，包括检测复杂策略、弱口令及配置详情，包括对主机配置基线通过率、主机配置风险TOP5、主机弱口令检测、主机弱口令风险TOP5的统计。

平台的训练任务可以提供稳定和易用的训练环境,在降低训练成本的同时提升训练任务执行效率。 前置条件 完成训练数据集准备，完成存储配置准备（ZOS/HPFS）,详见我的数据集。 如果预置模型不满足开发要求，需要基于自有模型，需要完成模型文件准备，详见我的模型。 如果预置镜像不满足开发要求，需要基于自有镜像，需要完成镜像文件准备，详见我的镜像。 如果需要使用代码包，需要完成代码包的上传，详见我的代码包。 创建训练任务 登录智算服务平台。 创建训练任务入口： 入口一：在左侧菜单选择“模型定制”“训练任务”，点击“新建任务”，进入任务创建页面。 入口二：在左侧菜单选择“模型定制”“开发机”，点击开发机列表的“开始训练”。 参数类型 参数名 说明 基本信息 任务名称 必填，训练任务名称。 基本信息 描述 非必填，输入128个字符的描述。 数据集配置 训练数据集 最多可添加10个，选择基础数据集或者标注数据集。 模型配置 模型来源 我的模型：最多5个，将模型管理中的模型文件挂载到容器内路径。 预置模型：最多5个，将预置模型挂载到容器内路径。 模型配置 模型文件 选择我的模型具体的模型文件及版本。 选择预置模型文件及具体版本。 存储配置 ZOS对象存储 最多选择5个，如果没有提前创建，可以点击“去创建对象存储”完成创建。 存储配置 HPFS并行文件系统 最多选择5个，如果没有提前创建，可以点击“去创建HPFS”完成创建。 环境配置 文件目录 平台可持久化的挂载目录，后续可以在该目录下读写文件，是用户间隔离的。 环境配置 训练代码 非必填，可以选择目标代码包。 环境配置 启动命令 必填。如果您的代码包是文件夹，则需要填写python xx.py，其中xx.py是您的训练代码；如果您的代码中有启动参数，可以直接填写；若您使用的代码包是压缩包文件，需要在启动命令中添加解压命令zip。 资源配置 镜像来源 支持选择系统预置镜像、自定义镜像、共享容器镜像和他人分享镜像。 资源配置 集群 支持公共集群和专属集群两种类型，其中专属集群需要提前购买。 资源配置 队列 选择目标队列，展示当前总资源及使用情况。 资源配置 资源规格 选择当前任务所需要的资源规格。 资源配置 训练模式 默认为DDP（分布式训练），如果在单一计算设备上进行机器学习模型训练选择单机训练。 资源配置 容错训练 启动容错训练后，如果训练过程中节点异常，系统会自动重新启用一个新的节点来替换异常节点，从上一个checkpoint开始继续训练。 高级配置 断点续训 开启容错后，如因为节点故障导致训练任务异常，会封锁故障节点，重新调度训练任务。 高级配置 算力健康检查 检查昇腾机器节点的显卡状态、显卡通信状态和交换机状态，以及带宽的压测值。可训练任务详情页查看具体信息。

本文将从功能简介、背景信息、前提条件、操作步骤、配置说明等方面介绍如何设置规则防护功能。 功能介绍 规则防护引擎使用基于正则的规则防护引擎和基于机器学习的 AI 防护引擎，进行 Web 漏洞和未知威胁防护。 目前防护 Web 攻击包括：SQL 注入、XSS 攻击、恶意扫描、命令注入攻击、Web 应用漏洞、WebShell 上传、不合规协议、木马后门等17类通用的 Web 攻击。 支持规则模板配置（安全基础配置—漏洞防护配置），用户可根据实际业务需要选择适合的模板，同时提供基于指定域名 URL 和规则 ID 白名单处置策略，进行误报处理。 背景信息 在控制台添加服务域名时，系统将通过4个问题确认网站的防护场景，并为您推荐默认生效的防护规则集，支持选择防护动作为告警或拦截。接入边缘云WAF业务成功后，将默认生效此防护规则集。 规则防护引擎基于各类防护场景，设定了七套防护规则集，能够满足各种网站业务防护需求，帮助网站抵御大量的Web攻击并提供漏洞防护。目前边缘云WAF安全团队总共已经维护五百多条防护规则，支持自动更新Web 0day漏洞攻击防护规则 全量防护规则集：适用于重保等级高，且允许一定程度误报的业务场景。该漏洞规则集防护包含全量规则，绝大部分规则处理动作为拦截（网站防护模式为拦截时则直接进行拦截），容易出现误报，请谨慎选择；敏感防护规则集：适用于常规网站，且允许少量误报的业务场景。该漏洞规则集防护等级较为严格，容易误报的规则处理动作为告警，其他规则处理动作为拦截（网站防护模式为拦截时则直接进行拦截），存在一定误报可能性； 宽松防护规则集：适用于常规网站，允许存在一定漏报的业务场景。该漏洞规则集防护等级较为宽松，关闭容易产生误报的规则，则可能存在一定漏报，接入后请及时关注； PHP防护规则集：适用于后台开发语言为PHP的网站业务。该漏洞规则集主要针对后台语言为PHP进行制定，关闭其他容易产生误报的规则，接入后请及时关注； JAVA防护规则集：适用于后台开发语言为JAVA的网站业务。该漏洞规则集主要针对后台语言为JAVA进行制定，关闭其他容易产生误报的规则，接入后请及时关注； 非PHP和JAVA防护集：适用于后台开发语言明确非PHP和JAVA网站业务。该漏洞规则集主要针对后台语言为非PHP和JAVA进行制定，关闭其他容易产生误报的规则，接入后请及时关注； 下载类业务规则集：适用于下载类业务，即包含zip、rar、tar、gz等下载类后缀的业务网站。该漏洞规则集主要针对下载类业务进行设定规则，关闭其他容易产生误报的规则，接入后请及时关注；

总结 通过本次实践，无论是在天翼云EMR云实例上结合xFasterTransformer部署DS R1 distill Qwen7B蒸馏模型，还是基于英特尔® 至强® 6处理器部署满血版DeepSeekR1 671B模型，均验证了CPU系统在DeepSeek大模型推理上的可行性和符合业界普遍要求的性能表现。CPU系统不仅能够灵活应对不同规模的模型需求，无论是轻量化蒸馏模型还是全功能满血模型，都能高效满足用户场景需求，提供了一种低成本、经济高效的解决方案。 附录1 英特尔® 至强® 可扩展处理器与AI加速技术 最新英特尔® 至强® 可扩展处理器产品 英特尔第五代® 至强® 可扩展处理器（代号 Emerald Rapids）——为AI加速而生 第五代英特尔® 至强® 处理器以专为AI工作负载量身定制的设计理念，实现了核心架构和内存系统的双重飞跃。其64核心设计搭配高达320MB的三级缓存（每核心由1.875MB提升至5MB），相较上代缓存容量实现近三倍增长，为大规模并行AI推理提供充裕的本地数据存储空间。与此同时，处理器支持DDR55600高速内存，单路最大4TB的容量保证了大数据处理时的带宽和延迟优势。基于这些硬件提升，Emerald Rapids整体性能较上一代提升21%，AI推理性能平均提升42%，在大语言模型推理场景中可实现最高1.5倍的性能加速，同时大幅降低总拥有成本达77%。 英特尔® 至强®6处理器（代号 GNR Granite Rapids）——引领CPU AI算力革新 全新GNR处理器专为应对人工智能、数据分析及科学计算等计算密集型任务而设计。该产品在内核数量、内存带宽及专用AI加速器方面均实现重大突破： 核心与性能：每CPU配备多达128个性能核心，单路核心数较上一代翻倍，同时平均单核性能提升达1.2倍、每瓦性能提升1.6倍，进一步强化了CPU在大模型推理中的独立处理能力； AI加速功能：内置英特尔® 高级矩阵扩展（AMX）新增对FP16数据类型的支持，使得生成式AI和传统深度学习推理任务均能获得显著加速； 内存与I/O突破：支持DDR56400内存及英特尔首款引入的Multiplexed Rank DIMM (MRDIMM) 技术，有效将内存带宽提升至上一代的2.3倍；同时，高达504MB的三级缓存和低延迟设计确保数据能够更快加载，为复杂模型训练和推理缩短响应时间。 英特尔® 至强® 6处理器不仅通过更多的核心和更高的单线程性能提升了AI大模型推理能力，同时也能够作为机头CPU为GPU和其他加速器提供高速数据供给，进一步缩短整体模型训练时间。在满足混合工作负载需求的同时，其TCO平均降低30%，大模型推理加速最高可达2.4倍。 无论是第五代至强还是全新的至强6处理器，英特尔均通过在核心架构、缓存系统、内存技术和专用AI加速器方面的全面革新，提供了业界领先的AI计算支持。这两款产品为数据中心和高性能计算平台在AI推理、训练以及多样化工作负载下提供了强大而高效的算力保障

总结 通过本次实践，无论是在天翼云EMR云实例上结合xFasterTransformer部署DS R1 distill Qwen7B蒸馏模型，还是基于英特尔® 至强® 6处理器部署满血版DeepSeekR1 671B模型，均验证了CPU系统在DeepSeek大模型推理上的可行性和符合业界普遍要求的性能表现。CPU系统不仅能够灵活应对不同规模的模型需求，无论是轻量化蒸馏模型还是全功能满血模型，都能高效满足用户场景需求，提供了一种低成本、经济高效的解决方案。 附录1 英特尔® 至强® 可扩展处理器与AI加速技术 最新英特尔® 至强® 可扩展处理器产品 英特尔第五代® 至强® 可扩展处理器（代号 Emerald Rapids）——为AI加速而生 第五代英特尔® 至强® 处理器以专为AI工作负载量身定制的设计理念，实现了核心架构和内存系统的双重飞跃。其64核心设计搭配高达320MB的三级缓存（每核心由1.875MB提升至5MB），相较上代缓存容量实现近三倍增长，为大规模并行AI推理提供充裕的本地数据存储空间。与此同时，处理器支持DDR55600高速内存，单路最大4TB的容量保证了大数据处理时的带宽和延迟优势。基于这些硬件提升，Emerald Rapids整体性能较上一代提升21%，AI推理性能平均提升42%，在大语言模型推理场景中可实现最高1.5倍的性能加速，同时大幅降低总拥有成本达77%。 英特尔® 至强®6处理器（代号 GNR Granite Rapids）——引领CPU AI算力革新 全新GNR处理器专为应对人工智能、数据分析及科学计算等计算密集型任务而设计。该产品在内核数量、内存带宽及专用AI加速器方面均实现重大突破： 核心与性能：每CPU配备多达128个性能核心，单路核心数较上一代翻倍，同时平均单核性能提升达1.2倍、每瓦性能提升1.6倍，进一步强化了CPU在大模型推理中的独立处理能力； AI加速功能：内置英特尔® 高级矩阵扩展（AMX）新增对FP16数据类型的支持，使得生成式AI和传统深度学习推理任务均能获得显著加速； 内存与I/O突破：支持DDR56400内存及英特尔首款引入的Multiplexed Rank DIMM (MRDIMM) 技术，有效将内存带宽提升至上一代的2.3倍；同时，高达504MB的三级缓存和低延迟设计确保数据能够更快加载，为复杂模型训练和推理缩短响应时间。 英特尔® 至强® 6处理器不仅通过更多的核心和更高的单线程性能提升了AI大模型推理能力，同时也能够作为机头CPU为GPU和其他加速器提供高速数据供给，进一步缩短整体模型训练时间。在满足混合工作负载需求的同时，其TCO平均降低30%，大模型推理加速最高可达2.4倍。 无论是第五代至强还是全新的至强6处理器，英特尔均通过在核心架构、缓存系统、内存技术和专用AI加速器方面的全面革新，提供了业界领先的AI计算支持。这两款产品为数据中心和高性能计算平台在AI推理、训练以及多样化工作负载下提供了强大而高效的算力保障