本章节介绍云原生API网关的定义。 概述 云原生API网关分为API网关和AI网关两个产品。API网关是一款面向现代应用架构设计的高性能网关解决方案，集成流量治理、安全防护、服务集成与可观测能力于一体。通过动态路由、插件热插拔、配置热更新等关键特性，实现对海量API请求的高效处理与灵活控制，全面适配微服务、Kubernetes、AI推理等多样化场景，助力企业构建稳定安全、可演进的API基础设施，全面提升系统的敏捷性与运维效率。AI网关是一款面向AI场景的高性能网关解决方案，统一代理大模型API、MCP Server和Agent API，可以作为AI应用与大模型服务、工具和其他Agent之间的桥梁，助力企业提升AI服务的集成效率和治理能力。 API网关 API网关在使用上，分为HTTP API、REST API、WebSocket API。 HTTP API 以路由为核心，适用于接口规范不统一的场景。推荐用于流量转发、Kubernetes Ingress、微服务间通信等应用。若您关注请求路由控制和流量管理，建议选择此类型。 REST API 遵循统一的OpenAPI 规范，适用于前后端协作、系统集成以及API的精细化管理。适合需要对外提供标准接口文档、SDK 等协作支持的场景。若您希望构建标准化、可治理的API接口体系，建议选择此类型。 WebSocket API 基于WebSocket协议，支持双向实时通信，适用于AI、IoT、即时通讯等对实时性要求高的场景。相较于传统HTTP接口，具备长连接和低延迟优势，已内置相关默认配置。若您的应用需实现高效的实时数据交互，建议选择此类型。 AI网关

应用场景 数据快递是一种海量数据传输解决方案，支持 TB 到 PB 级数据上云，通过硬盘（外置 USB 接口），向并行文件传输大量数据，解决海量数据传输网络成本高、传输时间长等难题。 智算场景：AI 场景的素材数据、原型数据等需要寄送到数据中心，投喂给智算平台，提升数据质量和模型效果。 原始数据迁移：把基因、石油、气象、IOT 等原始数据迁移到并行文件服务。 离线备份数据：将客户完整备份或增量备份发送到并行文件服务，实现可靠的冗余离站存储。 注意 专属资源的客户，拥有独立的机房设备，可采用了邮寄硬盘到存储机房的方式。 准备工作 客户需要自助完成迁移数据存储到硬盘等存储介质上，建议客户将小文件压缩成大文件后再进行数据迁移。 存储介质邮寄到机房后，联系运维人员将硬盘插在可连接HPFS客户端的物理机上作为迁移机器。需要提前和运维人员确认硬盘数量和迁移服务器网络是否和HPFS互通。 操作步骤 1. 客户将硬盘快递到云公司机房的专属资源池集群。 2. 机房配置单独的数据迁移服务器用于读取客户硬盘数据。数据拷贝服务器通过网闸与天翼云资源池隔离。 3. 客户硬盘插入到拷贝服务器后，先进行安全扫描，确保客户数据无安全隐患。此前步骤，网闸处于关闭状态 4. 打开网闸，将客户硬盘数据拷贝到云内服务器上。 5. 与客户联系确认数据准确。 6. 关闭网闸。 7. 在数据拷贝服务器上，按客户要求将硬盘数据销毁和硬盘快递寄回。

混合云一体机推理基础版是一款软硬一体化的智能计算解决方案，基于国产化硬件预置大模型及混合云管平台，提供私有化部署的算力、模型、运维一站式服务。 产品架构 混合云一体机推理基础版产品架构包括算力层、平台层、应用层，内容囊括了硬件+推理平台+预置模型+典型应用。 算力层 采用先进的硬件架构，集成高性能计算服务器，支持多种国产化AI芯片，如海光K100AI、天数智凯等。 平台层 提供涵盖计算、存储、网络及大模型资源的一站式管理功能。DeepSeek专区支持多模型纳管、知识库挂载、API接口提供。 应用层 可搭载政务公文写作应用翼政通，集成智能问答、公文生成/优化、知识库管理等功能，嵌入WPS办公流。提升政务办公效率。 产品用途 目标用户 主要面向需要私有化部署大模型进行调用、成本敏感型的企业单位。 使用场景 面向医疗、教育、政务等垂直领域，内置大模型，快速实现模型调用服务。

参数 说明 取值样例 实例规格类型 负载均衡的实例类型。 共享型 区域 不同区域的资源之间内网不互通。请选择靠近您客户的区域，可以降低网络时延、提高访问速度。 网络类型 可选公网或者私网。 公网：公网负载均衡器通过公网IP对外提供服务，将来自公网的客户端请求按照指定的负载均衡策略分发到后端主机进行处理。 私网：私网负载均衡器通过私网IP对外提供服务，将来自同一个VPC的客户端请求按照指定的负载均衡策略分发到后端主机进行处理。 私网 所属VPC 所属虚拟私有云。您可以选择使用已有的虚拟私有云网络，或者创建新的虚拟私有云。 子网 所属子网。 私有IP地址 选择IP地址的分配方式。自动分配IP地址：由系统自动分配IPv4地址。 手动指定IP地址：手动指定IPv4地址。选择所属子网时，不勾选“自动分配IPv4地址”，需要输入相应的IP。 192.168.0.2 弹性IP 负载均衡器绑定EIP后可以接收来自公网的访问请求并自动分发到多台后端主机。 新创建 弹性IP类型 使用新创建弹性IP时，选择的EIP的类型。 电信 公网带宽 弹性IP使用的带宽类型。 按带宽计费 带宽 设置新创建的EIP带宽大小。 10 Mbit/s 名称 负载均衡器的名称。 elbyss0 企业项目 企业项目是一种云资源管理方式，企业项目管理服务提供统一的云资源按项目管理，以及项目内的资源管理、成员管理。 default 描述 可添加负载均衡器相关描述。 标签 标签用于标识云资源，可对云资源进行分类和搜索。标签由标签“键”和标签“值”组成， 标签键用于标记标签，标签值用于表示具体的标签内容。 键：elbkey1值：elb01

本章节主要介绍向量检索的使用场景。 随着大规模图像检索、视频搜索、推荐等场景的数据规模越来越大，对高维空间向量检索的时延和准确率提出了更高的要求。云搜索服务针对大规模的向量检索场景提供了具体的解决方案，基于自研的向量搜索引擎，结合Elasticsearch的插件机制，高效集成了向量检索能力。 原理 向量检索从本质上讲，其思维框架和传统的检索方法没有区别。为了提升向量检索的性能，通常需要解决以下两个问题： 减少候选向量集 和传统的文本检索类似，向量检索也需要某种索引结构来避免在全量的数据上做匹配，传统文本检索是通过倒排索引来过滤掉无关文档，而向量检索是通过对向量建立索引结构来绕过不相关的向量，减小需要考察的范围。 降低单个向量计算的复杂度 向量检索支持漏斗模型，先对所有向量进行量化和近似计算，筛选出一定量接近检索目标的数据集，然后基于筛选的数据集进行精细的计算和排序。本方法不需要对所有向量都进行复杂的计算，可以有效提高检索效率。 向量检索即在一个给定的向量数据集中，按照某种度量方式，检索出与查询向量相近的K个向量（KNearest Neighbor，KNN），但由于KNN计算量过大，通常只关注近似近邻（Approximate Nearest Neighbor，ANN）问题。

数据源类型 简介 数据仓库服务（DWS） DWS是基于Sharednothing分布式架构，具备MPP大规模并行处理引擎，兼容标准ANSI SQL 99和SQL 2003，同时兼容PostgreSQL/Oracle数据库生态，为各行业PB级海量大数据分析提供有竞争力的解决方案。 数据湖探索（DLI） DLI是完全兼容Apache Spark和Apache Flink生态，实现批流一体的Serverless大数据计算分析服务。DLI支持多模引擎，企业仅需使用SQL或程序就可轻松完成异构数据源的批处理、流处理、内存计算、机器学习等，挖掘和探索数据价值。 MapReduce服务（MRS HBase） HBase是一个开源的、面向列（ColumnOriented）、适合存储海量非结构化数据或半结构化数据的、具备高可靠性、高性能、可灵活扩展伸缩的、支持实时数据读写的分布式存储系统。 使用MRS HBase可实现海量数据存储，并实现毫秒级数据查询。选择MRS HBase可以实现物流数据毫秒级实时入库更新，并支持百万级时序数据查询分析。 MapReduce服务（MRS Hive） Hive是一种可以存储、查询和分析存储在Hadoop中的大规模数据的机制。Hive定义了简单的类SQL查询语言，称为HiveQL，它允许熟悉SQL的用户查询数据。 使用MRS Hive可实现TB/PB级的数据分析，快速将线下Hadoop大数据平台（CDH、HDP等）迁移上云，业务迁移 “0”中断，业务代码 “0”改动。 MapReduce服务（MRS Kafka） MapReduce服务可提供专属MRS Kafka集群。Kafka是一个分布式的、分区的、多副本的消息发布订阅系统，它提供了类似于JMS的特性，但在设计上完全不同，它具有消息持久化、高吞吐、分布式、多客户端支持、实时等特性，适用于离线和在线的消息消费，如常规的消息收集、网站活性跟踪、聚合统计系统运营数据（监控数据）、日志收集等大量数据的互联网服务的数据收集场景。 MapReduce服务（MRS Ranger） Ranger提供一个集中式安全管理框架，提供统一授权和统一审计能力。它可以对整个Hadoop生态中如HDFS、Hive、HBase、Kafka、Storm等进行细粒度的数据访问控制。用户可以利用Ranger提供的前端WebUI控制台通过配置相关策略来控制用户对这些组件的访问权限。 MySQL MySQL是目前最受欢迎的开源数据库之一，其性能卓越，架构成熟稳定，支持流行应用程序，适用于多领域多行业，支持各种WEB应用，成本低，中小企业首选。 MapReduce服务（MRS Spark） Spark是一个开源的，并行数据处理框架，能够帮助用户简单的开发快速、统一的大数据应用，对数据进行协处理、流式处理、交互式分析等等。 Spark提供了一个快速的计算、写入以及交互式查询的框架。相比于Hadoop，Spark拥有明显的性能优势。Spark提供类似SQL的Spark SQL语言操作结构化数据。 云数据库RDS RDS是一种基于云计算平台的即开即用、稳定可靠、弹性伸缩、便捷管理的在线关系型数据库服务。 注意，DataArts Studio平台目前仅支持RDS中的MySQL和PostgreSQL数据库。 主机连接 通过主机连接，用户可以在DataArts Studio数据开发中连接到指定的主机，通过脚本开发和作业开发在主机上执行Shell或Python脚本。主机连接保存连接某个主机的连接信息，当主机的连接信息有变化时，只需在主机连接管理中编辑修改，而不需要到具体的脚本或作业中逐一修改。 MapReduce服务（MRS Presto） Presto是一个开源的用户交互式分析查询的SQL查询引擎，用于针对各种大小的数据源进行交互式分析查询。其主要应用于海量结构化数据/半结构化数据分析、海量多维数据聚合/报表、ETL、AdHoc查询等场景。 Presto允许查询的数据源包括Hadoop分布式文件系统（HDFS），Hive，HBase，Cassandra，关系数据库甚至专有数据存储。一个Presto查询可以组合不同数据源，执行跨数据源的数据分析。

数据源 具体的数据类型 扫描限制 关系型数据库 MySQL、SqlServer、PostgreSQL类型。 采样扫描前500行数据。扫描指标QPS为300次/秒。 云搜索服务 大数据资产 对象存储服务 支持200+文件类型。 大于200MB以上的文件不会对其进行扫描；同时如果OBS桶的文件进行了加密，则无法对其扫描。 数据仓库服务 弹性云主机 搭建的Mysql、SqlServer、PostgreSQL、Oracle数据库及ElasticSearch实例。 数据湖探索 大数据资产

资产模块 服务策略 作用范围 备注 OBS OBS Adminstrator 全局 用于配置OBS日志，获取OBS对象列表，下载OBS对象等 OBS EVS ReadOnlyAccess 区域 用于获取云硬盘列表 OBS OBS Adminstrator 全局 用于获取OBS服务投递日志 数据库 ECS ReadOnlyAccess 区域 用于获取自建数据库ECS列表 数据库 RDS ReadOnlyAccess 区域 用于获取RDS数据库列表及数据库列表相关信息 数据库 DWS ReadOnlyAccess 区域 用于获取DWS列表 数据库 VPC FullAccess 区域 用于打通网络，VPC的端口创建，安全组规则创建等 数据库 KMS CMKFullAccess 区域 用于使用KMS加密脱敏的场景 大数据 ECS ReadOnlyAccess 区域 用于获取自建大数据ECS列表 大数据 CSS ReadOnlyAccess 区域 用于获取CSS数据集群列表及数据索引等相关信息 大数据 DLI Service User 区域 用于获取DLI队列及数据库 大数据 VPC FullAccess 区域 用于打通网络，VPC的端口创建，安全组规则创建等 大数据 KMS CMKFullAccess 区域 用于使用KMS加密脱敏的场景 数据安全总览 Tenant Guest 区域 用于获取用户涉及数据存储处理等相关云服务的列表等 数据安全总览 OBS Adminstrator 全局 用于配置OBS日志，获取OBS对象列表，下载OBS对象等 数据安全总览 EVS ReadOnlyAccess 区域 用于云硬盘列表获取 数据安全总览 OBS Adminstrator 全局 用于OBS服务投递日志

本页重点介绍通过天翼云官网门户订购数据迁移实例的过程。 操作步骤 1、登入天翼云门户。 登录天翼云 2、进入数据传输服务DTS控制台。 在天翼云门户首页顶部菜单栏，点击“控制中心”进入【控制中心】页面。 在【控制中心】页面顶部的资源池下拉列表框中选择相应资源池，找到页面中的“数据库”服务列表，选择“数据传输服务DTS”，进入DTS控制台，默认进入概览页面。 或从其他数据库的“购买TeleDB数据库实例”页面，直接切换到【数据库生态工具】，选择“DTS”。 3、概览页点击“创建实例”，进入开通页进行实例创建。 在【概览】页面中，点击“创建实例”按钮，进入“购买TeleDB数据库实例”> "DTS"页面，进行如下设置或选择： 标题部分的设置或选择：“组件引擎”选择“DTS”，“区域”根据用户选择所在资源池固定，“计费模式”目前仅支持“包年/包月”。 进行“基础配置”部分的设置或选择：“可用区”按实际选择。 进行“资源配置”部分的设置或选择：“配置方式”可选择“引导模式”或“快捷模式”，引导模式让用户可以准确选择需要的源与目标数据库，同步拓扑和数据库架构等，从而准确识别最小链路规格；快捷模式下用户可直接选择链路规格，简化配置； 引导模式下：“场景功能”可选择“数据迁移”或“数据同步”，根据用户上云业务场景选择；“源数据库”可选“MySQL”、“PostgreSQL”、“DDS/MongoDB”或“SQLServer”，目标数据库的选择根据源数据库的选择可选DTS支持的对应链路；“机器类型”普通资源池默认不展示，国产化资源存在时，可根据不同的资源池支持的机器类型选择。 选择“数据迁移”>"DDS/MongoDB"时，新增“数据库架构类型”选择，可选择“副本集”或“分片”，选择“分片”后，新增“节点数量”的选择，数量的大小会影响“链路规格”可选择的规格范围；“链路规格”可选择"较小规格"、“标准规格”或“大规格”。 选择“数据同步”>"MySQL" 或“PostgreSQL”时，新增“同步拓扑”选择，可选择“单向同步”或“双向同步”，“双向同步”会影响可选择的规格范围；“链路规格”可选择"较小规格"、“中规格”、“标准规格”或“大规格”。 快捷模式下：“场景功能”可选择“数据迁移”或“数据同步”，“链路规格”可选择"较小规格"、“中规格”、“标准规格”或“大规格”。 进行“企业项目”部分的设置或选择： 对应的企业项目已创建的情况，直接在“企业项目”下拉列表中选择； 对应的企业项目不在下拉列表中的情况，则点击下拉列表下方“创建新的企业项目，请到企业管理配置”中的“企业管理”跳转到企业项目管理页面，完成企业项目的创建后，再重新进入服务开通页面选择企业项目。 进行“网络配置”部分的设置或选择：“配置方式”代表DTS实例资源采用什么方式来配置，可选择“使⽤⽬标数据库所在VPC”，将DTS实例将放在与⽬标数据库同⼀VPC下；或选择“直接指定VPC”，选择当前资源池下已有的VPC。 “使⽤⽬标数据库所在VPC”下：“选择实例”可选择当前资源池下已有的云上数据库实例，带出“虚拟私有云”、“子网”、“安全组”，可检查确认；若选择“资源配置”>“快捷模式”时，需要选择“目标数据库”，可选“MySQL”、“PostgreSQL”、“DDS/MongoDB”或“SQLServer”，从而选择实例。 “直接指定VPC”下：“连接方式”可选择“使用IPv4地址连接”或“使用IPv6地址连接”，选择后公网连接方式不一样，请根据数据库实例是否开通了IPv6地址来选择；“虚拟私有云”、“子网”、“安全组”根据当前资源池下已有的VPC来选择。 进行“实例配置”部分的设置：输入实例名称，若不输入将自动填充。 进行“购买量”部分的选择：选择“购买时长”和“购买数量”。 说明 为了保证开通数据库迁移实例的过程顺利，请预先准备好需要的网络资源和数据库资源。

本文为您介绍海量文件服务OceanFS产品相关规格,带您更快了解产品能力。 存储类型 OceanFS容量型是基于“HDD+SSD”的高性价比文件存储，数据节点和元数据节点独立部署，提供纠删码数据冗余机制，保障数据可靠性和服务高可用，故障迁移无感知。是一款高性能、高性价比的文件存储产品，适用于企业办公、高性能计算、高性能Web网站、日志存储等通用场景。 性能规格 参数 容量型 最大带宽 读：5GB/s 写：2GB/s 说明 读和写无法同时达到上述最大值，读写混合带宽最大5GB/s。 多台云主机可达到上述最大带宽，测试时建议使用多台云主机。 带宽大小与容量相关，但是由于有缓存，所以容量和性能的比例不容易体现。 最大IOPS 读：50000 写：10000 说明 IOPS大小与容量非线性相关。容量越大，性能越好，取决于实际压力情况。 最大OPS 读：7000 写：2000 时延 最低单路4K随机读写时延：10ms 说明 时延是指低负载情况下的最低延迟，非稳定时延。时延与容量无关。 单文件系统容量范围 按配置容量计费：100GB~4PB 按实际使用量计费：0~4PB 说明 单用户单地域默认容量配额为500TB，如需申请500TB以上文件系统，需要通过工单申请配额。

标准存储 低频存储 归档存储 存储成本 中等 较低 非常低 访问频率 高 低 非常低 数据访问延迟 大文件场景：低 小文件高并发场景：低 大文件场景：低 小文件高并发场景：较高 大文件场景：低 小文件高并发场景：较高 最低存储时间 无 30天 90天 数据安全性 高 高 高 数据存储用途 经常访问的数据 低频访问的数据 长期存档和备份 数据取回 不涉及 按实际取回数据量收费 按实际解冻数据量收费 适用场景 适用于频繁访问（平均一月访问多次）的存储场景，比如移动应用、网站、音视频、社交图片、大数据分析等 适用于不频繁访问（平均一月访问一次）的存储场景，比如数据备份、视频监控数据等 适用于很少访问（平均一年访问一次）的存储场景，比如档案数据、医疗影像等合规性要求高的数据、长期备份等 服务可用性 单AZ：99.99% 多AZ：99.995% 单AZ：99% 多AZ：99.9% 99%

平台提供了以下大模型API能力。 模型名称 模型简介 模型ID DeepSeekR1昇腾版 DeepSeekR1是一款具有671B参数大小的创新性大语言模型，由杭州深度求索人工智能基础技术研究有限公司开发。该模型基于 transformer 架构，通过对海量语料数据进行预训练，结合注意力机制，能够理解和生成自然语言。它经过监督微调、人类反馈的强化学习等技术进行对齐，具备语义分析、计算推理、问答对话、篇章生成、代码编写等多种能力。R1 模型在多个 NLP 基准测试中表现出色，具备较强的泛化能力和适应性。 4bd107bff85941239e27b1509eccfe98 DeepSeekR1昇腾版2 DeepSeekR1是一款具有671B参数大小的创新性大语言模型，该模型基于 transformer 架构，通过对海量语料数据进行预训练，结合注意力机制，经过监督微调、人类反馈的强化学习等技术进行对齐，具备语义分析、计算推理、问答对话、篇章生成、代码编写等多种能力。R1 模型在多个 NLP 基准测试中表现出色，具备较强的泛化能力和适应性。 7ba7726dad4c4ea4ab7f39c7741aea68 DeepSeekV3昇腾版 DeepSeekV3是DeepSeek团队开发的新一代专家混合（MoE）语言模型，共有671B参数，在14.8万亿个Tokens上进行预训练。该模型采用多头潜在注意力（MLA）和DeepSeekMoE架构，继承了DeepSeekV2模型的优势，并在性能、效率和功能上进行了显著提升。 9dc913a037774fc0b248376905c85da5 DeepSeekR1DistillLlama70B DeepSeekR1DistillLlama70B是基于Llama架构并经过强化学习和蒸馏优化开发的高性能语言模型。该模型融合了DeepSeekR1的先进知识蒸馏技术与Llama70B模型的架构优势。通过知识蒸馏，在保持较小参数规模的同时，具备强大的语言理解和生成能力。 515fdba33cc84aa799bbd44b6e00660d DeepSeekR1DistillQwen32B DeepSeekR1DistillQwen32B是通过知识蒸馏技术从DeepSeekR1模型中提炼出来的小型语言模型。它继承了DeepSeekR1的推理能力，专注于数学和逻辑推理任务，但体积更小，适合资源受限的环境。 b383c1eecf2c4b30b4bcca7f019cf90d Baichuan2Turbo BaichuanTurbo系列模型是百川智能推出的大语言模型，采用搜索增强技术实现大模型与领域知识、全网知识的全面链接。 43ac83747cb34730a00b7cfe590c89ac Llama213BChat Llama2是预先训练和微调的生成文本模型的集合，其规模从70亿到700亿个参数不等。这是13B微调模型的存储库，针对对话用例进行了优化。 96dc8f33609d4ce6af3ff55ea377831a Qwen7BChat 通义千问7B（Qwen7B）是阿里云研发的通义千问大模型系列的70亿参数规模的模型。Qwen7B是基于Transformer的大语言模型, 在超大规模的预训练数据上进行训练得到。预训练数据类型多样，覆盖广泛，包括大量网络文本、专业书籍、代码等。同时，在Qwen7B的基础上，使用对齐机制打造了基于大语言模型的AI助手Qwen7BChat。 fc23987da1344a8f8bdf1274e832f193 Llama27BChat Llama27BChat是Meta AI开发的大型语言模型Llama2家族中最小的聊天模型。该模型有70亿个参数，并在来自公开来源的2万亿token数据上进行了预训练。它已经在超过一百万个人工注释的指令数据集上进行了微调。 e30f90ca899a4b1a9c25c0949edd64fc Llama270BChat Llama 2 是预训练和微调的生成文本模型的集合，规模从 70 亿到 700 亿个参数不等。这是 70B 微调模型的存储库，针对对话用例进行了优化。 bafbc7785d50466c89819da43964332b Qwen1.57BChat 通义千问1.5（Qwen1.5）是阿里云研发的通义千问系列开源模型，是一种基于 Transformer 的纯解码器语言模型，已在大量数据上进行了预训练。该系列包括Base和Chat等多版本、多规模，满足不同的计算需求，这是Qwen1.57BChat版本。 bfc0bdbf8b394c139a734235b1e6f887 Qwen272BInstruct Qwen2 是 Qwen 大型语言模型的新系列。Qwen2发布了5个尺寸的预训练和指令微调模型，包括Qwen20.5B、Qwen21.5B、Qwen27B、Qwen257BA14B以及Qwen272B。这是指令调整的 72B Qwen2 模型，使用了大量数据对模型进行了预训练，并使用监督微调和直接偏好优化对模型进行了后训练。 2f05789705a64606a552fc2b30326bba ChatGLM36B ChatGLM36B 是 ChatGLM 系列最新一代的开源模型，在保留了前两代模型对话流畅、部署门槛低等众多优秀特性的基础上，ChatGLM36B 引入了更强大的基础模型、更完整的功能支持、更全面的开源序列几大特性。 7450fa195778420393542c7fa13c6640 TeleChat12B 星辰语义大模型TeleChat是由中电信人工智能科技有限公司研发训练的大语言模型，TeleChat12B模型基座采用3万亿 Tokens中英文高质量语料进行训练。TeleChat12Bbot在模型结构、训练数据、训练方法等方面进行了改进，在通用问答和知识类、代码类、数学类榜单上相比TeleChat7Bbot均有大幅提升。 fdc31b36028043c48b15131885b148ce Qwen1.514BChat 通义千问1.5（Qwen1.5）是阿里云研发的通义千问系列开源模型，是一种基于 Transformer 的纯解码器语言模型，已在大量数据上进行了预训练。该系列包括Base和Chat等多版本、多规模，满足不同的计算需求，这是Qwen1.514BChat版本。 acfe01f00b0c4ff49c29c6c77b771b60 Llama38BInstruct Meta 开发并发布了 Meta Llama 3 系列大型语言模型 （LLM），包含 8B 和 70B 两种参数大小，Llama38BInstruct 是经过指令微调的版本，针对对话用例进行了优化，在常见的行业基准测试中优于许多可用的开源聊天模型。 bda59c34e4424598bbd5930eba713fbf Llama370BInstruct Meta 开发并发布了 Meta Llama 3 系列大型语言模型 （LLM），包含 8B 和 70B 两种参数大小，Llama370BInstruct 是经过指令微调的版本，针对对话用例进行了优化，在常见的行业基准测试中优于许多可用的开源聊天模型。 6192ed0cb6334302a2c32735dbbb6ce3 Qwen1.572BChat 通义千问1.5（Qwen1.5）是阿里云研发的通义千问系列开源模型，是一种基于 Transformer 的纯解码器语言模型，已在大量数据上进行了预训练。该系列包括Base和Chat等多版本、多规模，满足不同的计算需求，这是Qwen1.572BChat版本。 9d140d415f11414aa05c8888e267a896 Qwen1.532BChat Qwen1.532B 是 Qwen1.5 语言模型系列的最新成员，除了模型大小外，其在模型架构上除了GQA几乎无其他差异。GQA能让该模型在模型服务时具有更高的推理效率潜力。这是Qwen1.532BChat版本。 12d5a37bf1ed4bf9b1cb8e446cfa60b3 InternLM2Chat7B InternLM2Chat7B 是书生·浦语大模型系列中开源的 70 亿参数库模型和针对实际场景量身定制的聊天模型。InternLM2相比于初代InternLM，在推理、数学、代码等方面的能力提升尤为显著，综合能力领先于同量级开源模型。 50beebff68b34803bd71d380e49078f5 Qwen27BInstruct Qwen27BInstruct是 Qwen2大型语言模型系列中覆盖70亿参数的指令调优语言模型，支持高达 131,072 个令牌的上下文长度，能够处理大量输入。 0e97efbf3aa042ebbaf0b2d358403b94 QwenVLChat QwenVLChat模型是在阿里云研发的大规模视觉语言模型 QwenVL 系列的基础上，使用对齐机制打造的视觉AI助手，该模型有更优秀的中文指令跟随，支持更灵活的交互方式，包括多图、多轮问答、创作等能力。 e8c39004ff804ca699d47b9254039db8 StableDiffusionV2.1 StableDiffusionV2.1是由 Stability AI 公司推出的基于深度学习的文生图模型，它能够根据文本描述生成详细的图像，同时也可以应用于其他任务，例如图生图，生成简短视频等。 40f9ae16e840417289ad2951f5b2c88f DeepseekV2LiteChat DeepseekV2LiteChat是一款强大的开源专家混合（MoE）语言聊天模型，具有16B参数，2.4B活动参数，使用5.7T令牌从头开始训练，其特点是同时具备经济的训练和高效的推理。 0855b510473e4ec3a029569853f64974 Qwen2.572BInstruct Qwen2.5系列发布了许多基本语言模型和指令调整语言模型，参数范围从0.5到720亿个参数不等。Qwen2.572BInstruct模型是Qwen2.5系列大型语言模型指令调整版本。 d9df728b30a346afb74d2099b6c209aa Gemma29BIT Gemma29BIT是Google最新发布的具有90亿参数的开源大型语言模型的指令调优版本。模型在大量文本数据上进行预训练，并且在性能上相较于前一代有了显著提升。该版本的性能在同类产品中也处于领先地位，超过了Llama38B和其他同规模的开源模型。 4dae2b9727db46b7b86e84e8ae6530a9 Llama3.23BInstruct Meta Llama3.2多语言大型语言模型（LLMs）系列是一系列预训练及指令微调的生成模型，包含1B和3B参数规模。Llama3.2指令微调的纯文本模型专门针对多语言对话应用场景进行了优化，包括代理检索和摘要任务。它们在通用行业基准测试中超越了许多可用的开源和闭源聊天模型。这是Llama3.23BInstruct版本。 f7d0baa95fd2480280214bfe505b0e2e ChatGLM36B32K ChatGLM36B32K模型在ChatGLM36B的基础上进一步强化了对于长文本的理解能力，能够更好的处理最多32K长度的上下文。具体对位置编码进行了更新，并设计了更有针对性的长文本训练方法，在对话阶段使用 32K 的上下文长度训练。 98b6d84f6b15421886d64350f2832782 CodeGemma7BIT CodeGemma是构建在Gemma之上的轻量级开放代码模型的集合。CodeGemma7BIT模型是CodeGemma系列模型之一，是一种文本到文本和文本到代码的解码器模型的指令调整变体，具有70亿参数，可用于代码聊天和指令跟随。 fa8b78d2db034b6798c894e30fba1173 Qwen2.5Math7BInstruct Qwen2.5Math系列是数学专项大语言模型Qwen2Math的升级版。系列包括1.5B、7B、72B三种参数的基础模型和指令微调模型以及数学奖励模型Qwen2.5MathRM72B，Qwen2.5Math7BInstruct的性能与Qwen2Math72BInstruct相当。 ea056b1eedfc479198b49e2ef156e2aa DeepSeekCoderV2LiteInstruct DeepSeekCoderV2LiteInstruct是一款强大的开源专家混合（MoE）语言聊天模型，具有16B参数，2.4B活动参数。该模型基于DeepSeekV2进一步预训练，增加了6T Tokens，可在特定的代码任务中实现与GPT4Turbo相当的性能。 f23651e4a8904ea589a6372e0e860b10

为了减少大Key和热Key过大，有什么使用建议？ string类型控制在10KB以内 ，hash、list、set、zset 元素尽量不超过5000 。 Key的命名前缀为业务缩写，禁止包含特殊字符(比如空格、换行、单双引号以及其他转义字符)。 Redis事务功能较弱，不建议过多使用。 短连接性能差，推荐使用带有连接池的客户端。 如果只是用于数据缓存，容忍数据丢失，建议关闭持久化。 大Key/热Key的优化方法，请参考下表。 类别 方法 :: 大Key 进行大Key拆分。 分为以下几种场景 该对象为String类型的大Key：可以尝试将对象分拆成几个KeyValue， 使用MGET或者多个GET组成的pipeline获取值，分拆单次操作的压力，对于集群来说可以将操作压力平摊到多个分片上，降低对单个分片的影响。 该对象为集合类型的大Key，并且需要整存整取：在设计上严格禁止这种场景的出现，因为无法拆分。有效的方法是将该大Key从Redis去除，单独放到其余存储介质上。 该对象为集合类型的大Key，每次只需操作部分元素：将集合类型中的元素分拆。以Hash类型为例，可以在客户端定义一个分拆Key的数量N，每次对HGET和HSET操作的field计算哈希值并取模N，确定该field落在哪个Key上，实现上类似于Redis Cluster的计算slot的算法。 大Key 将大Key单独转移到其余存储介质。 无法拆分的大Key建议使用此方法，将不适用Redis能力的数据存至其它存储介质，并在Redis中删除该大Key。 注意 禁止使用DEL直接删除大Key，可能会造成Redis阻塞，甚至主备倒换。 热Key 使用客户端缓存/本地缓存。 该方案需要提前了解业务的热点Key有哪些，设计客户端/本地和远端Redis的两级缓存架构，热点数据优先从本地缓存获取，写入时同时更新，这样能够分担热点数据的大部分读压力。缺点是需要修改客户端架构和代码，改造成本较高。 热Key 设计熔断/降级机制。 热Key极易造成缓存击穿，高峰期请求都直接透传到后端数据库上，从而导致业务雪崩。因此热Key的优化一定需要设计系统的熔断/降级机制，在发生击穿的场景下进行限流和服务降级，保护系统的可用性。

天翼云CDN加速，依托强大的自主研发实力，攻克精准调度、智能缓存、高效传输等重点难点技术，并凭借丰富的海内外资源，为用户提供极致的加速体验，并帮助客户有效应对业务突发。本文是关于天翼云CDN加速产品优势的简介。 天翼云CDN加速，主要有如下8大产品优势，帮助客户更好地实现网站内容分发加速。 丰富的资源覆盖 全球战略，大网优质节点，可根据客户需求弹性扩容，轻松应对客户业务突发。 中国内地拥有2000+节点，覆盖多运营商和31个省份区域，大量节点位于省会及一二线主要城市。 海外、中国香港、中国澳门和中国台湾拥有800+节点，遍布亚洲、美洲、欧洲、非洲等大洲主要国家和城市。 全网业务承载能力达160Tbps。 具体节点分布，详情请见：节点分布。 优质的网络质量 拥有电信运营商优质的网络优势，可充分保障网络质量的稳定性。 全面的产品能力 功能全面丰富，可满足客户各类加速场景。 功能类别 主要功能模块 域名管理 批量配置域名、域名操作日志、标签管理、基础配置、回源配置、HTTPS/HTTP2.0配置、HTTP3.0配置、缓存配置、访问控制、文件处理、视频相关、业务告警、云备源、CDN镜像源、防攻击处理预案说明、图片内容审核增值服务等。 证书管理 新增证书、查看证书、删除证书、替换过期证书。 数据分析 用量分析（带宽流量、请求数、状态码、浏览量/访问量（PV/UV）、命中率）、热门分析（热门URL、热门URL回源、热门Referer、域名排行、TOP客户端IP）、用户分析（访问用户区域分布、用户所在区域的带宽排序、独立IP访问数、访问运营商分布）。 刷新预取 URL刷新、目录刷新、正则刷新、URL预取。 日志下载 离线日志下载。 可编程CDN UDFScript用户自定义脚本：自定义LUA脚本，实现标准化配置无法满足的个性化需求。 BosonFaaS边缘函数：自定义JavaScript代码，秒级一键部署到天翼云全球2000多个边缘节点上，就近生成千人千面的个性化响应结果。 CDN权限管理 为企业内部的员工设置不同的访问权限。 同时，天翼云CDN还开放了丰富的API接口供客户调用，助力客户实现深度集成。详情请见：API概览。

天翼云培训与认证优惠码简介 天翼云培训与认证优惠码是用户订购天翼云学堂付费课程、班级、认证、会员等可使用抵扣券码。用户可根据抵扣券适用产品在订购过程中享受相应优惠。 天翼云培训与认证优惠码具有两种形态：1）抵价模式：获得优惠券用户在订购付费课程、班级、认证、会员时，可享受优惠券同等面额优惠。2）打折模式：用户订购时可获得券面折扣优惠。 兑付载体：天翼云学堂（[]( ） 天翼云培训与认证优惠码用户与法律声明 天翼云培训与认证优惠码为虚拟券面资产，不可兑付现金。单一编号优惠券码仅可使用1次，一经验证恕不退还，请用户谨慎操作。用户在使用优惠券码付款订单发生退订等情况优惠券码权益恕不退还。根据运营情况，已发优惠券码存在随时调整变更可能性，恕不另行通知。 天翼云培训与认证优惠券码由中国电信股份有限公司云计算分公司统一经营管理，除授权中国电信云计算公司区域中心、中国电信内部业务运营单位、官方认证代理渠道外，无任何其他授权经营渠道。优惠券码中国电信云公司保留最终解释权。

本文主要介绍云日志服务的售前常见问题。 什么是云日志服务？ 云日志服务是天翼云打造的一款云原生日志观测分析平台产品，可为应用的海量日志数据提供大规模、低成本、集中式的平台化服务，具备一站式的日志采集、加工、查询分析、可视化、告警、投递消费等能力，全面满足应用研发、运维、服务监控与业务分析等应用场景。 云日志服务包含什么功能? 日志采集：支持从云主机、容器应用、微服务应用以及其他组件中采集日志。采集规则支持动态配置，提供单行/多行全文、正则、分隔符、JSON等日志结构化解析方式。 日志检索：对于采集到的日志数据，支持模糊查询、全文查询、字段查询、时间范围、上下文查询。 统计分析：支持各类统计分析场景。 数据加工：支持对日志数据进行加工，包括数据的规整、脱敏和过滤。 日志转储：支持日志数据投递转储至对象存储。 日志告警：支持对一个或多个日志单元设置自定义告警规则，告警规则将按照设定的周期执行监控任务。 如何开始使用云日志服务？ 在使用云日志服务前，您需要完成天翼云账号注册并实名认证。完成实名认证后，打开产品详情页，点击【立即开通】，按照指引开通云日志服务。详情请查看快速入门。

删除全量备份后，还可以使用增量备份恢复数据吗？ 云主机备份提供了能够从任意备份中恢复资源所需的完整数据，无论这些备份是全量还是增量。因此，即使某个备份被有意删除或因过期而被自动删除，也不会影响使用其他增量备份来恢复数据。 举例：云主机按时间顺序先后生成a、b、c三个备份，每个备份都有数据变化。当备份b被删除后，备份a和备份c还是可以继续用于全量数据恢复。 单个资源可以创建多少个备份？ 资源备份的数量没有明确限制。能创建多少备份需要看存储库的容量，一个用户在一个资源池默认支持的存储库数量为10个，单个存储库的最大容量为1024000G，因此最多能创建多少备份由备份云主机磁盘的大小和存储库总的容量的大小决定，根据您的需求，您可以创建多个备份，如果存储库配额不够，您也可以通过提工单的形式申请扩大存储库配额数量。 备份时可以终止备份吗？ 不可以。正在备份的任务属于中间状态，暂时不能中断正在执行的备份任务。 备份时长和磁盘大小、备份类型相关。磁盘容量越大，备份时间越久，通常全量备份时长大于增量备份。请您耐心等待备份完成，如您不需要此备份，可以在备份完成后进行删除。 如何降低备份占用空间？ 问题描述： 备份的磁盘占用空间远大于云主机内部已使用空间的大小。即便从磁盘中删除了大文件然后重新进行备份，备份的大小仍然没有明显减小。 可能原因： 这可能是因为在进行磁盘清理或更新清理操作后，尽管某些数据在磁盘上已被删除，但仍然存在于磁盘中，只是操作系统无法看到。而云主机备份的功能是基于对整个磁盘进行备份，这些在系统上看不到的数据仍会被纳入备份，从而导致备份文件的尺寸过大。 解决方法： 目前，云主机备份系统还没有其他途径来减小备份数据的大小。您可以考虑使用第三方工具（需自行评估安全性）来进行处理。

本文向您介绍如何使用大模型学习机微调自己的图像生成模型。 前提条件 大模型学习机预装了Llama 27bchat模型与stablediffuisonbasev2.1模型, 以及配套的开源服务框架textgenerationwebui与stablediffuisonwebui,使您不需单独进行下载模型与配置环境。 云主机开通与如何登录网页页面参见部署文档。 一、模型微调简介 由于基础大模型参数量极多，训练需要的资源量极大，因此基于基础大模型进行微调的技术应运而生。针对StableDiffusion进行微调的技术主流的有4种，分别是： 1. Textual Inversion：不改变原模型结构与参数，只增加新的关键词并训练新的输入embedding。生成的新模型很小，大约几十KB。由于没有影响原模型的结构与参数，因此调整能力有限。 2. Hypernetwork：在原模型的crossattention网络结构中插入一层新网络，与原模型结构串行执行。由于新网络会平均作用在整个模型上，因此更适宜训练绘画风格。模型大小约几十MB。 3. LoRA：在原模型的crossattention网络结构中插入多个小网络结构，与原模型结构并行执行。实践证明这种结构的效果要优于Hypernetwork，因此LoRA是当前最主流的微调方案。模型大小约几十MB。 4. Dreambooth：对整个原模型的参数进行微调，训练成本高，生成的模型相当于一个新的基础大模型。模型大小约几GB。 已有LoRA模型如何加载可参考图像生成模型使用最佳实践。 本文以Textual Inversion方式为例，介绍通过私有数据微调模型并进行图像生成的流程。如果您有微调新的LoRA模型的需求，本文也给出了相关插件的安装说明。

7ne系列 采用第三代英特尔® 至强® 可扩展处理器 （Ice Lake）， 基于新一代虚拟化平台，使用NUMA(Non Uniform Memory Access Architecture)绑定技术， 配套25GE智能网卡，搭载全新网络加速引擎以及DPDK(Data Plane Development Kit)快速报文处理机制，通过软硬结合的方式提高虚拟化性能，大幅提升实例的网络带宽能力和网络收发包能力。可提供148C592G的大规格实例、3000万收发包能力 。适用各种于网络密集型应用场景，如NFV/SDWAN、移动互联网、视频弹幕、电信业务转发等；中小型数据库系统、缓存、搜索集群；各种类型和规模的企业级应用；大数据分析和机器学习。 8系列 采用第三代英特尔® 至强® 可扩展处理器 （Ice Lake）， 基于新一代虚拟化平台，使用NUMA(Non Uniform Memory Access Architecture)绑定技术， 配套100GE网卡，搭载全新网络加速引擎以及DPDK(Data Plane Development Kit)快速报文处理机制，可提供128C1024G的大规格实例、100Gbps带宽、3000万收发包能力 。适用于计算类应用场景、web服务应用场景、媒体处理应用场景、汽车工业设计仿真、数字建模模拟、海量数据处理等场景，为高性能计算、互联网大数据、政企、金融等行业客户提供更强劲的计算性能，帮助客户降低 TCO，提高企业产品竞争力。 8r系列 采用第四代英特尔® 至强® 可扩展处理器 （Sapphire Rapids）， 基于新一代虚拟化平台，使用NUMA(Non Uniform Memory Access Architecture)绑定技术， 配套25GE网卡，搭载全新网络加速引擎以及DPDK(Data Plane Development Kit)快速报文处理机制。支持高级矩阵扩展(Intel® AMX，Advanced Matrix Extension )，可提高CPU的深度学习训练和推理性能，16CPU及以上规格支持Intel数据保护与压缩加速技术 (Intel® QAT，Quick Assist Technology ) ，可提高特定应用程序和工作负载的加密、解密和压缩性能。

本小节主要介绍态势感知与其他云服务之间的关系。 与安全服务的关系 态势感知（专业版）从主机安全（Host Security Service，HSS）、Web应用防火墙（Web Application Firewall，WAF）等安全防护服务中获取必要的安全事件记录，进行大数据挖掘和机器学习，智能AI分析并识别出攻击和入侵，帮助用户了解攻击和入侵过程，并提供相关的防护措施建议。 与弹性云服务器的关系 态势感知（专业版）为弹性云服务器（Elastic Cloud Server，ECS）提供资产安全管理服务，结合HSS主机防护状态，全方位呈现当前ECS安全风险态势，并提供相应防护建议。

存储 服务 说明 相关文档 云硬盘 云硬盘（CTEVS，Elastic Volume Service）是一种可弹性扩展的块存储设备，可以为弹性云主机和弹性裸金属服务器提供高性能、高可靠的块存储服务。天翼云硬盘规格丰富，满足不同场景的业务需求，适用于文件系统、数据库、开发测试等场景 云硬盘产品定义 弹性文件服务 弹性文件服务（CTSFS，Scalable File Service）提供按需扩展的高性能文件存储（NAS），可为云上多个弹性云主机提供共享访问，具备高可用性和高数据持久性，为海量的小文件、低延迟高IOPS型应用提供有力支持 弹性文件服务产品定义 对象存储 对象存储（简称ZOS，Zettabyte Object Storge）是天翼云为客户提供的一种海量、弹性、高可靠、高性价比的存储产品，是专门针对云计算、大数据和非结构化数据的海量存储形态，通过S3协议和标准的服务接口，提供非结构化数据（图片、音视频、文本等格式文件）的无限存储服务 对象存储产品定义 其他 服务 说明 相关文档 云日志服务 云日志服务是天翼云打造的一款云原生日志观测分析平台产品，可为应用的海量日志数据提供大规模、低成本、集中式的平台化服务，具备一站式的日志采集、加工、查询分析、可视化、告警等能力，全面满足应用研发、运维、服务监控与业务分析等应用场景 云日志服务产品定义 弹性伸缩 弹性伸缩服务（CTAS，Auto Scaling）是根据用户的业务需求，通过策略自动调整其弹性计算资源的一种管理服务。该服务能够根据预设规则自动调整伸缩组内的云主机数量，在业务需求上升时自动增加云主机实例，业务需求下降时自动减少云主机实例，降低人为反复调整资源以应对业务变化和高峰压力的工作量，帮助用户节约资源和人力成本 弹性伸缩服务产品定义

本文介绍云日志服务查询和分析相关限制。 日志查询 限制项 说明 备注 日志采集到搜索时延 从日志产生到日志在控制台能被搜索到的时间间隔小于2分钟（非阻塞情况下）。 不涉及。 关键词个数 关键词，即单次查询时布尔逻辑符外的条件个数。每次查询最多30个。 不涉及。 操作并发数 您在1个天翼云账号下支持的最大查询操作并发数为20个。 如您有更大的使用需求，请提交工单申请。 返回结果 通过控制台查询：默认最多返回100条查询结果。 不涉及。 返回结果 通过API查询：默认最多返回5000条查询结果。 不涉及。 字段值大小 单个字段值最大为2KB，超出部分不参与快速分析，但是可以通过关键词查询。 不涉及。 查询结果排序 默认按照秒级时间从最新开始展示。 不涉及。 模糊查询 在查询语句单个词长度小于255字符 星号（）或问号（?）不能用在词的开头。 long数据类型和double数据类型不支持使用星号（）或问号（?）进行模糊查询 不涉及。 搜索时间范围 单次搜索，时间跨度默认不超过30天。 不涉及 表1 日志查询限制 日志分析 限制项 说明 备注 操作并发数 您在1个天翼云账号下支持的最大查询操作并发数为20个。 如您有更大的使用需求，请提交工单申请。 返回结果 通过控制台查询：默认最多返回100条查询结果；最大返回100MB的数据 不涉及。 字段值大小 单个字段值最大为2KB，超出部分不参与分析 不涉及。 分析时间范围 单次分析，时间跨度默认不超过30天。 不涉及 分析数据量 单次搜索分析最大支持扫描400MB日志数据（不包含缓存数据），超过部分截断，标记为搜索分析结果不精确。 不涉及 表2 日志分析限制注意 云日志服务为海量数据分析而优化，并非为实时事务处理设计。因此，我们不建议将其用于需要毫秒级响应、强一致性事务的核心业务场景，如交易、订单或库存管理。

步骤二：微调DeepSeek模型 1. 启动LLaMAFactory服务 在完成云主机开通后，即可通过ssh连接到到云主机命令行。模型及LLaMAFactory服务均已放置在/root目录下，且已完成配套环境安装，可直接运行。 plaintext 进入目录 cd /root/LLaMAFactory 启动webui服务 (也可通过nohup放到后台启动) llamafactorycli webui 在成功启动LLaMAFactory服务后，您将可以通过 访问到相关页面。 plaintext 访问服务 2. 配置基础大模型和微调方法 在成功进入LLaMAFactory页面后，您首先需要按照如图的内容进行页面语言，模型名称和模型路径的设置。 注意 注意模型预置在/root/DeepSeekR1DistillQwen7B目录下。 3. 配置微调数据集 在Train页面内，您需要配置用于微调训练的数据集。镜像内预置了alpaca格式的天翼云示例数据，您也可参考示例数据修改/root/LLaMAFactory/data/目录下的alpacazhctyun.json(微调数据集)和datasetinfo.json(数据集信息)两个文件，改用您自己的私有数据。 镜像内置两份数据集，单条内容示例如下： data/alpacazhctyun.json(天翼云文档数据集) plaintext { "instruction": "天翼云的通用型弹性云主机有哪些规格？", "input": "", "output": " 用户询问通用型云主机规格，首先需要明确通用型的定位是平衡计算和内存资源。根据产品文档，通用型以s7系列为代表，应当列举不同后缀规格及其配置差异，最后补充适用场景说明。 n通用型弹性云主机有多个规格，例如s7.small、s7.medium、s7.large、s7.xlarge等，每种规格提供不同的vCPU和内存配置，适合多种业务场景。" } data/alpacaenmedcalcbenchmax2k.json(医学计算数据集MedCalcBench) plaintext { "instruction": "A 16yearold female adolescent was referred to our hospital with severe hypertension (systolic pressure 178 mmHg), which was first detected 7 months prior to presentation during a routine annual physical ...", "input": "What is the patient's Creatinine Clearance using the CockroftGault Equation in terms of mL/min? You should use the patient's adjusted body weight in kg instead of the patient's actual body weight if the patient is ...", "output": " The formula for computing CockcroftGault is given by CrCl ((140 age) adjusted weight (gendercoefficient)) / (serum creatinine 72), where the gendercoefficient is 1 if male, and 0.85 if female..." } 4. 配置相关训练参数 在Train页面内，还有大量可修改的微调训练参数。如果您对他们还不够了解，可暂时不进行修改。其中，训练轮数与样本量级关联性较大，如果您的微调数据量很少，则可能需要设置较大的训练轮数，才能有效果。 5. 启动微调训练 点击最下方的开始按钮，即可基于上面选择的基础模型和微调数据集，启动模型微调训练。页面下方会显示实时的训练进度，训练日志和loss变化情况。 如果您的训练样本较多，单张A10显卡的24G显存很容易因为无法承载，而导致报错"CUDA out of memory"。此时，您需要将云主机变配到显存更大的机型规格，并开启DeepSpeed stage3进行模型参数分片，如下图所示。 同时，您还需要修改默认DeepSpeed配置中的部分参数，以保证训练正常进行。修改/root/LLaMAFactory/cache/dsz3config.json中的如下内容： plaintext "zerooptimization": { "stage": 3, "overlapcomm": true, "contiguousgradients": true, "subgroupsize": 1e9, "reducebucketsize": "auto", "stage3prefetchbucketsize": "auto", "stage3parampersistencethreshold": "auto", "stage3maxliveparameters": 1e4, //降低该参数以减少显存占用 "stage3maxreusedistance": 1e4, //降低该参数以减少显存占用 "stage3gather16bitweightsonmodelsave": true }

1. insert into select内存错误 优化查询：优化SELECT语句中的过滤条件、聚合操作和排序，以减少查询结果集的大小。 分批处理：将大型数据集拆分为较小的批次进行处理，使用LIMIT和OFFSET子句限制每次查询的数据量。 增加集群资源：增加云数据库ClickHouse集群的计算和内存资源，以满足更大的查询和插入操作需求。 使用临时表：将SELECT查询结果存储在临时表中，然后再将临时表数据插入目标表，以减少内存占用。 使用合适的数据类型：选择适合数据量和精度的数据类型，避免使用过大的数据类型导致内存消耗过高。 2. 耗费资源多的查询类型 复杂查询逻辑：查询中包含复杂的聚合操作、多层嵌套的子查询、大量的JOIN操作或递归查询，这些操作可能需要更多的计算和内存资源。 数据量过大：查询处理的数据量过大，导致CPU和内存资源被大量使用。可以考虑优化查询条件、增加集群资源或采取分批处理的方式来减少每次查询的数据量。 不合适的数据类型：选择不合适的数据类型可能导致内存消耗过高。确保选择适当的数据类型，避免使用过大的数据类型。 未优化的查询计划：云数据库ClickHouse的查询优化器可能选择了不合适的查询计划，导致资源利用率低下。可以尝试使用EXPLAIN语句分析查询计划，并根据分析结果进行优化。 内存设置不当：可能是由于云数据库ClickHouse实例的内存设置不合理，导致内存不足以处理查询。可以调整内存相关的配置参数，如maxmemoryusage、maxmemoryusageforallqueries等。

本章节介绍数据库复制的产品价格。 一 、收费项 合营数据库复制服务是一种易用、稳定、高效，用于数据库在线迁移和数据库实时同步的云服务，可有效降低数据库之间数据流通的复杂性，有效地帮助用户减少数据传输的成本。资费包括配置费用、流量费用。 二 、 收费标准 （一）公有云收费标准 1、多规格能力 仅实时同步、实时灾备场景新增多规格能力（当前仅部分资源池白名单开放）。采用按需和包周期计费方式，计费项由配置费用构成。包年优惠政策：一年8.5折、两年7折、三年5折。 规格名称 规格类型 标准资费（元/小时） 标准资费（元/月） 实时同步 极小 0.8 384 实时同步 小 1.69 811.2 实时同步 中 2.36 1132.8 实时同步 大 3.53 1694.4 实时同步 超大 5.2 2496 实时同步 极大 8.48 4070.4 实时灾备 极小 1.5 720 实时灾备 小 3 1440 实时灾备 中 4.3 2064 实时灾备 大 6.5 3120 2、数据库复制（历史资费） 自2022年10月1日00:00:00起，天翼云针对数据库复制（DRS）产品进行调价，价格资费按照如下标准进行收取： 采用按需计费模式，计费项由配置费用、流量费用构成。 入云场景下mysqlmysql、文档数据库文档数据库任务启动7天后开始计费。 任务类型 数据流动方向 收费项 收费方式 标准资费 价格单位 实时迁移 入云 VPC网络 按流量 0 元/GB 实时迁移 入云 公网网络 按流量 1.5 元/GB 实时迁移 入云 VPN、专用网络 按流量 0 元/GB 实时迁移 入云 配置费用 按小时 2.4 元/小时 实时迁移 出云 VPC网络 按流量 0 元/GB 实时迁移 出云 公网网络 按流量 1.5 元/GB 实时迁移 出云 VPN、专用网络 按流量 0 元/GB 实时迁移 出云 配置费用 按小时 2.4 元/小时 实时同步 入云 VPC网络 按流量 0 元/GB 实时同步 入云 公网网络 按流量 1.5 元/GB 实时同步 入云 VPN、专用网络 按流量 0 元/GB 实时同步 入云 配置费用 按小时 3.53 元/小时 实时同步 出云 VPC网络 按流量 0 元/GB 实时同步 出云 公网网络 按流量 1.5 元/GB 实时同步 出云 VPN、专用网络 按流量 0 元/GB 实时同步 出云 配置费用 按小时 3.53 元/小时 实时同步 自建自建 VPC网络 按流量 0 元/GB 实时同步 自建自建 公网网络 按流量 1.5 元/GB 实时同步 自建自建 VPN、专用网络 按流量 0 元/GB 实时同步 自建自建 配置费用 按小时 3.53 元/小时 实时灾备 本云为备 配置费用 按小时 6.5 元/小时 实时灾备 本云为主 配置费用 按小时 6.5 元/小时

本文介绍在应用托管中搭建Dify和部署MCP Server,以及在Dify中集成基于部署的MCP Server。 概述 Dify介绍 Dify 是一站式大模型应用开发平台。它能便捷接入各类数据并管理，支持模型微调与多模型调用。通过可视化界面和低代码工具，用户无需深厚技术背景，就能快速搭建如聊天机器人、智能客服等应用。可用于客户服务、内容创作等场景，具有降低开发门槛、提升效率、灵活可扩展等优势，助力企业高效落地大模型应用。 前置说明 1. 本文档旨在指导用户如何通过应用托管控制台，体验将MCP Server集成至Dify。 2. 本产品中的模型由第三方主体提供，尽管云公司已尽最大努力进行识别和维护，但仍无法保证模型的可用性。请客户按照该产品的服务协议使用该产品，做好甄别工作，并对自行选择的服务承担相应责任。 使用前准备 1. 天翼云账号注册：使用应用托管平台须具备天翼云官网账号。已有天翼云账号的直接登录即可，如无天翼云账号需先注册，注册流程可参考：注册账号。 2. 使用前提：如需使用服务请先完成实名认证，请参考账号中心实名认证。如需使用按需服务，请确认账号余额≥100 元。

Dify介绍 Dify 是一站式大模型应用开发平台。它能便捷接入各类数据并管理，支持模型微调与多模型调用。通过可视化界面和低代码工具，用户无需深厚技术背景，就能快速搭建如聊天机器人、智能客服等应用。可用于客户服务、内容创作等场景，具有降低开发门槛、提升效率、灵活可扩展等优势，助力企业高效落地大模型应用。 前置说明 1. 该文档为应用托管控制台通过应用市场体验Dify+DeepSeekR1模型搭建私有知识库的说明，通过应用托管控制台，打开应用市场，创建对应的Dify应用，使用 Dify构建本地知识库。 2. 本产品中的模型由第三方主体提供，尽管云公司已尽最大努力进行识别和维护，但仍无法保证模型的可用性。请客户按照该产品的服务协议使用该产品，做好甄别工作，并对自行选择的服务承担相应责任。 使用前准备 1. 天翼云账号注册：使用应用托管平台须具备天翼云官网账号。已有天翼云账号的直接登录即可，如无天翼云账号需先注册，注册流程可参考：注册账号。 2. 使用前提：如需使用服务请先完成实名认证，请参考账号中心实名认证。如需使用按需服务，请确认账号余额≥100 元。

步骤三：测试模型微调效果 LLaMAFactory框架提供了模型推理的能力，可直接进入Chat页面加载模型进行对话。 1. 测试基础大模型效果 保持模型名称和模型路径不变，不设置检查点路径，在Chat页面直接点击加载模型，即可测试基础大模型的效果。 本案例使用prompt"天翼云弹性云主机包含哪些规格"进行测试。 基础DeepSeekR1DistillQwen7B大模型给出了通用但是错误的回答。 2. 测试微调大模型的效果 本案例采用了lora的微调方法，因此需将检查点路径设置为步骤二中完成训练的lora小模型。 本案例使用prompt"天翼云弹性云主机包含哪些规格"进行测试。 微调后的大模型能够给出符合微调数据集的回答。 从纯净版ubuntu系统构建微调环境 除了使用预装镜像外, 您也可以从任意ubuntu云主机开始, 按以下步骤搭建出LLaMAFactory微调环境, 并下载任意您需要的模型。

飞腾内存优化型 飞腾内存优化型fm1搭载飞腾处理器，云主机实例独享CPU，提供更稳定的CPU性能、更大内存比以及更优秀的网络性能，对内存型应用的运行提供更好支持。 飞腾内存优化型fm1适用于内存要求高，数据量大并且数据访问量大，同时要求快速的数据交换和处理的应用 宿主机规格： 宿主机规格 超配比 CPU信息 虚拟CPU核数（vCPUs） 内存（GB） 飞腾计算增强型fm1 不可配置，仅支持1:1 飞腾S2500，2.1GHz 104 408 说明 计算专属云规格中的vCPUs计算公式：vCPUs槽位数 CPU核数 单核线程数 CPU开销。 由于实际部署的主机网络功能的软件版本差异，宿主机可用量可能存在少量误差。 支持的弹性云主机规格： 规格名称 vCPU 内存（GB） 最大带宽/基准带宽（Gbps） 最大收发包能力（万PPS） 网卡多队列数 fm1.large.8 2 16 5/1.5 30 1 fm1.xlarge.8 4 32 7/3 80 2 fm1.2xlarge.8 8 64 12/6 140 4 fm1.4xlarge.8 16 128 18/10 200 8

查看漏斗图 1. 登录管理控制台，选择“管理与部署 > 云日志服务 LTS”，进入“日志管理”页面。 2. 在日志管理页面中，选择目标日志组和日志流，进入日志流详情页面。 3. 选择“日志分析”。 4. 输入查询和分析语句，设置查询和分析的时间范围，单击“查询”。 5. 单击图标，使用漏斗图展示查询数据。在通用配置下方，参考下表配置参数。 参数 说明 系列名称 漏斗图的名称。 数值列 选择数值字段，某个字段对应的数值越大，在越上面。 隐藏图例 开启后，可以隐藏漏斗图上方的字段名显示。

查看漏斗图 1. 登录管理控制台，选择“管理与部署 > 云日志服务 LTS”，进入“日志管理”页面。 2. 在日志管理页面中，选择目标日志组和日志流，进入日志流详情页面。 3. 选择“日志分析”。 4. 输入查询和分析语句，设置查询和分析的时间范围，单击“查询”。 5. 单击图标，使用漏斗图展示查询数据。在通用配置下方，参考下表配置参数。 参数 说明 系列名称 漏斗图的名称。 数值列 选择数值字段，某个字段对应的数值越大，在越上面。 隐藏图例 开启后，可以隐藏漏斗图上方的字段名显示。

本章节主要介绍翼MapReduce的安全增强特性。 翼MR作为一个海量数据管理和分析的平台，具备高安全性。翼MR主要从以下几个方面保障用户的数据和业务运行安全。 网络隔离 整个系统部署在公有云上的虚拟私有云中，提供隔离的网络环境，保证集群的业务、管理的安全性。结合虚拟私有云的子网划分、路由控制、安全组等功能，为用户提供高安全、高可靠的网络隔离环境。 资源隔离 翼MR服务支持资源专属区内部署，专属区内物理资源隔离，用户可以在专属区内灵活地组合计算存储资源，包括专属计算资源+共享存储资源、共享计算资源+专属存储资源、专属计算资源+专属存储资源。 主机安全 翼MR支持与公有云安全服务集成，支持漏洞扫描、安全防护、应用防火墙、堡垒机、网页防篡改等。针对操作系统和端口部分，提供如下安全措施： 操作系统内核安全加固 更新操作系统最新补丁 操作系统权限控制 操作系统端口管理 操作系统协议与端口防攻击 应用安全 通过如下措施保证大数据业务正常运行： 身份鉴别和认证 Web应用安全 访问控制 审计安全 密码安全 数据安全 针对海量用户数据，提供如下措施保障客户数据的机密性、完整性和可用性。 容灾：翼MR支持将数据备份到OBS（对象存储服务）中，支持跨区域的高可靠性。 备份：翼MR支持针对DBService、NameNode、LDAP的元数据备份和对HDFS、HBase的业务数据备份。