前言——私有知识库作用简介 大模型私有知识库是结合大语言模型技术与企业或组织自有数据的一种知识管理和应用方案，旨在为特定用户群体提供更精准、专业且安全的知识服务。 大模型私有知识库是基于大语言模型构建的，专门服务于特定组织或个人的知识存储和检索系统。它整合组织内部的专业知识、业务数据、历史文档等，形成专属知识集合，借助大模型的强大语言理解和生成能力，为用户提供高效的知识查询和问答服务。 本教程提供一种基于开源框架的私有知识库搭建方案。如果需要构建企业级服务且对数据安全有需求，则需相关企业对该服务进行定制，以完成私有知识库的搭建。 本文介绍的方法采用了开源框架自带的数据库服务，但该方法不保证相关数据在开源框架下的安全性。请务必在上传前对敏感数据进行脱敏处理。 本教程使用的GPU云主机规格如下所示，用于部署 DeepSeekr1:70b 模型，配置仅供参考。 plaintext cpu 32核  内存 128G GPU: NVIDIA A102 (48GB) 如需体验其它模型版本，请参考在天翼云使用Ollama运行 DeepSeek的最佳实践7b版弹性云主机最佳实践AIGC实践 天翼云自定义部署DeepSeek步骤二：规格选型，选择合适的云主机。

训推用一体 内置端到端大模型“训推用”全链路工具平台，深度融合DeepSeekR1/V3/蒸馏版系列大模型，为用户提供模型训练、推理、应用全套工具，实现大模型从训练到应用的一体化解决方案。 算力多样化 采用先进的硬件架构，集成高性能计算服务器，支持多种AI芯片，如NVIDIA、昇腾等主流品牌，为DeepSeek系列大模型提供强大的算力支持，满足不同用户对算力的多样化需求。 高效能 裸金属直接部署容器运行环境，无虚拟化开销，释放硬件最大效能，提高DeepSeek系列大模型的训练和推理效率，降低能耗和成本。 极简运维 提供7×24小时在线运维服务，一二三线运维服务全覆盖，全面监控实例、任务、资源的使用情况和调度情况，及时发现异常，降低运维难度和成本。

天翼云弹性高性能计算产品广泛应用于多种场景,本文带您更快了解天翼云弹性高性能计算典型应用场景。 工业仿真 场景说明 工业企业如汽车研发、高端装备研发等过程中会使用计算机辅助设计（CAD）和计算机辅助工程（CAE）等设计仿真软件提高研发效率，弹性高性能计算可针对多种仿真软件提供强大的计算服务和调度优化能力，帮助企业缩短产品上市时间，提高产品质量。 产品优势 超高性能：提供高性能物理机服务器、节点InfiniBand组网、并行文件存储，为大规模仿真计算提供性能保障。 灵活弹性 ：支持多种规格混合部署，适配结构、流体、电磁等不同负载需求。支持集群自动伸缩，满足突发业务需求。 简洁易用：提供面向仿真业务的可视化操作界面，支持模板化封装和可视化观测，屏蔽复杂的脚本操作，使仿真工程师更聚焦业务本身。 搭配使用产品 物理机、对象存储、弹性文件服务、镜像服务、云监控 生物基因测序 场景说明 生物行业中下一代基因测序、分子建模、Alphafold蛋白质预测等都依赖于高性能计算，天翼云弹性高性能计算可以为生物制药企业、科研机构等提供灵活弹性的大规模集群服务。

模型推理服务为大模型训练、推理、应用提供全栈工具链,包含模型体验、模型定制、模型服务、插件服务等模块。预置丰富的基座大模型和数据集,支持国产化等异构算力,提供算子加速与模型加速,极大提升大模型训练推理效率。

模型推理服务为大模型训练、推理、应用提供全栈工具链,包含模型体验、模型定制、模型服务、插件服务等模块。预置丰富的基座大模型和数据集,支持国产化等异构算力,提供算子加速与模型加速,极大提升大模型训练推理效率。

发生消费位点重置的两种情况 当服务端不存在曾经提交过的位点时（比如客户端第一次上线）； 当从非法位点拉取消息时（比如某个分区最大位点是10，但客户端却从11开始拉取消息）。 配置重置策略 Java 客户端可以通过auto.offset.reset来配置重置策略，主要策略有： latest：从最大位点开始消费； earliest：从最小位点开始消费； none：不做任何操作，也即不重置。 策略配置建议 强烈建议设置成“latest”，而不要设置成“earliest”，避免因位点非法时从头开始消费，从而造成大量重复 如果是客户自己管理位点，可以设置成”none”； 拉取大消息。 拉取消息注意事项 消费过程是由客户端主动去服务端拉取消息的，在拉取大消息时，需要注意控制拉取速度，注意修改配置。 max.poll.records：如果单条消息超过1MB，建议这里设置为1； fetch.max.bytes：设置比单条消息的大小略大一点； max.partition.fetch.bytes：设置比单条消息的大小略大一点。拉取大消息的核心是一条一条拉。

政务办公 场景说明 为实现从数字化向智能化政务的转型升级，须具备面向政企事项的内容生成、文本优化等核心能力，从而全面支撑政务智能化的建设与应用。 方案优势 统一知识库整合资源：根据不同委办局要求在政务云本身租户隔离的基础上，不同部门根据业务需要加载各自个性化知识库，实现公文业务灵活的更新及发展。 翼政通助力办公：智能政务助手应用，采用WPS插件的形式无缝嵌入政务场景办公流，将AI赋能到传统的办公软件，提供智能问答、知识库、公文优化、公文生成等功能，提升政务办公服务效率。 智慧政法 场景说明 政法综治数据量大：数据量庞大，涵盖行政管理、案件审判与执行等不同领域，收集使用周期长。 政法综治数据标准不统一：缺乏统一规范，导致数据格式和定义不一致，整合难度大。 方案优势 国产算力：国产化海光GPU提供强劲算力，天翼云平台提供模型管理能力、智能体管理能力。 智能体应用：通过智能体中心实现和政法内部应用的结合，帮助用户基于开源模型构建智能体应用，实现已有业务和大模型的有效结合，快速实现政务AI应用的构建，如对话客服。 大模型助力高效处理大数据：大模型能力和政法内部应用的结合，实现政法事件分类、信息提取、大数据查询语句生成。

API接口 1. 列举模型 URL：GET /api/models 描述：列出可用的模型列表，并提供相关模型的基本信息。 例子: plaintext curl H "Authorization: Bearer APIKEY" 2. 对话补全 URL：POST /api/chat/completions 描述：根据输入的上下文，来让模型补全对话内容。 例子： plaintext curl L X POST ' H 'ContentType:application/json' H 'Accept:application/json' H 'Authorization:BearerAPIKEY' d '{ "model":"deepseekr1:7b", "messages": [ { "content":"用英语翻译一下你好", "role":"user" } ], "stream":false }' 使用外部大模型 Open WebUI通过云主机方式部署完自己的DeepSeek后，可以直接嵌入使用外部大模型，嵌入后可以通过WEB、API进行模型使用。配置方式如下： 1. 登录Open WebUI。 2. 选择管理员面板>设置>外部连接。 3. 选择OpenAI API开启，点击管理OpenAI API连接，新增外部大模型连接，输入外部模型的URL和API KEY。 4. 点击保存。 5. 查看对话新增的大模型，其中DeepSeekchat和DeepSeekreasoner为DeepSeek官网新增模型。

接口功能介绍 AI助手大模型接入是为了大模型提供者可以将其成熟大模型接入到AI助手功能，实现用户使用大模型智能问答功能。 接口约束 无 URI 路径参数 无 请求方法 POST 请求参数 请求头参数 无 请求体body参数 参数名 是否必选 参数类型 说明 默认值 model 是 str 模型 messages 是 list 消息列表 stream 否 bool 是否流式返回 false messages字段 参数名 是否必选 参数类型 说明 默认值 role 是 str 聊天角色，user或者assistant content 是 str 消息内容 type 是 str "text":文本， "image"图片， "browserresult" :互联网检索 ref 否 ChatMessageRef 文件（图片）内容，支持多模态的模型可以使用该字段，带上该字段的消息示例格式 { "role":"user", "content":"图里有什么", "ref":{ "type":"image", "image":[{"url":"", "filesize":60994} ] } } ChatMessageRef字段 参数名 是否必选 参数类型 说明 默认值 type 是 str type image 图片 image 是 list 图片列表 Image字段 参数名 是否必选 参数类型 说明 默认值 filedata 是 str 图像base64数据,本字段或url字段，二选一 filesize 是 int 图片大小 filename 是 str 图片名称 encryptpassword 否 str 加密文件密码 url 否 str 图片url

本最佳实践主要描述通过训推智算服务平台进行NLP大模型快速微调。 概述 AI发展正在经历一个拐点的跨越，从“预测推断”走向“内容生成”。新的AIGC形态给传统企业的模型训练和调用都提出新的挑战，需要更大的算力和大参数的算法，通过训练在大型文本语料库上学习到的语言模式生成自然语言文本，可以自动生成各类内容，文本、图像、语音、视频、代码中，能广泛应用于新闻、文案、对话、规划、设计创新，才能让企业在这场新的竞争中占据一席之地。 具体来说，新一代的大模型对模型训练的底座和平台都提出了新的要求，支持多个任务、参数1亿以上基于海量多源数据打造的模型，采用Transformer的架构，并且支持预训练。通过单模型做多种任务、更少的数据标注、更优的模型效果等特点来提升模型训练效率，以实现更优的识别、理解、决策、生成效果和更低成本的开发方案。 训推智算服务平台通过开箱即用的平台化产品，为您解决企业数字化、智能化转型中需要解决的AI建模门槛高、流程复杂、人力成本高等问题，有效为企业降本增效，助力企业转型。 本实践主要介绍少量样本对大语言模型进行微调训练，微调训练是大语言模型训练和应用中最常见的一种方式，用性价比的方式让企业快速训练出一个适合于自己业务的对话模型。通过训推智算服务平台来管理数据、标注指令微调、分布式调优任务、任务监控、模型管理、模型评估等全流程的调优步骤，通过交互式操作即可快速微调出属于业务自己的大语言对话模型。 任务特定性能提升：预训练语言模型通过大规模的无监督训练学习了语言的统计模式和语义表示。然而，它在特定任务上的性能可能不如在大规模无监督数据上表现出的性能。通过在任务特定的有标签数据上进行微调，模型可以进一步学习任务相关的特征和模式，从而提高性能。 领域适应性：预训练语言模型可能在不同领域的数据上表现不一致。通过在特定领域的有标签数据上进行微调，可以使模型更好地适应该领域的特殊术语、结构和语义，提高在该领域任务上的效果。 数据稀缺性：某些任务可能受制于数据的稀缺性，很难获得大规模的标签数据。监督微调可以通过使用有限的标签数据来训练模型，从而在数据有限的情况下取得较好的性能。 防止过拟合：在监督微调过程中，通过使用有标签数据进行有监督训练，可以减少模型在特定任务上的过拟合风险。这是因为监督微调过程中的有标签数据可以提供更具体的任务信号，有助于约束模型的学习，避免过多地拟合预训练过程中的无监督信号。

本文介绍使用媒体存储SDK上传超过5GB的大文件失败。 媒体存储服务端上传对象有最大限制，单次上传最大限制为5GB。 如需上传超过5GB的大对象时，需要通过SDK进行分片上传，具体可参照SDK概览，根据具体语言选择对应的章节查看。

本节介绍云容器引擎的最佳实践：集群规格推荐规划。 集群规格规划 Kubernetes集群的稳定性受到两方面因素的影响，一方面是资源对象的数量，另一方面是节点的规格和数量。对于后者而言，选择小数量、大规格的ECS搭建集群或者大数量、小规格的ECS搭建集群都可能存在较大的隐患。因此对集群规格进行合理规划显得尤为重要。 在考虑ECS规格时，需要考虑以下因素： 网络带宽：大规格ECS的网络带宽优于小规格，适用于对带宽需求较大的应用。 网络通信：容器在同一大规格ECS内部建立链路的比例增大，可以避免跨ECS访问，减少网络开销。 容量：ECS系统需要预留一部分CPU、内存、磁盘等节点资源，用于集群管理和基础设施组件的运行。小规格ECS由于抢占资源等因素，使得集群的稳定性和可靠性降低的概率大增。 碎片化：节点资源分配时，小规格ECS更容易被少数甚至一个容器独占，导致不一致或不连续的资源需求难以有效组合，进而造成资源浪费。 镜像拉取：大规格ECS更能有效地利用容器镜像的分层机制，提升拉取镜像的效率。 ECS数量的考量因素： 小数量的ECS，在节点故障时，由于资源冗余不足，可能导致无法及时处理故障节点外排的业务。 大数量的ECS极大地考验Master的性能和稳定性。

云日志服务是天翼云打造的一款云原生日志观测分析平台产品,可为应用的海量日志数据提供大规模、低成本、集中式的平台化服务,具备一站式的日志采集、加工、查询分析、可视化、告警等能力,全面满足应用研发、运维、服务监控与业务分析等应用场景。

云日志服务是天翼云打造的一款云原生日志观测分析平台产品,可为应用的海量日志数据提供大规模、低成本、集中式的平台化服务,具备一站式的日志采集、加工、查询分析、可视化、告警等能力,全面满足应用研发、运维、服务监控与业务分析等应用场景。

本文向您介绍如何使用大模型学习机微调自己的图像生成模型。 前提条件 大模型学习机预装了Llama 27bchat模型与stablediffuisonbasev2.1模型, 以及配套的开源服务框架textgenerationwebui与stablediffuisonwebui,使您不需单独进行下载模型与配置环境。 云主机开通与如何登录网页页面参见部署文档。 一、模型微调简介 由于基础大模型参数量极多，训练需要的资源量极大，因此基于基础大模型进行微调的技术应运而生。针对StableDiffusion进行微调的技术主流的有4种，分别是： 1. Textual Inversion：不改变原模型结构与参数，只增加新的关键词并训练新的输入embedding。生成的新模型很小，大约几十KB。由于没有影响原模型的结构与参数，因此调整能力有限。 2. Hypernetwork：在原模型的crossattention网络结构中插入一层新网络，与原模型结构串行执行。由于新网络会平均作用在整个模型上，因此更适宜训练绘画风格。模型大小约几十MB。 3. LoRA：在原模型的crossattention网络结构中插入多个小网络结构，与原模型结构并行执行。实践证明这种结构的效果要优于Hypernetwork，因此LoRA是当前最主流的微调方案。模型大小约几十MB。 4. Dreambooth：对整个原模型的参数进行微调，训练成本高，生成的模型相当于一个新的基础大模型。模型大小约几GB。 已有LoRA模型如何加载可参考图像生成模型使用最佳实践。 本文以Textual Inversion方式为例，介绍通过私有数据微调模型并进行图像生成的流程。如果您有微调新的LoRA模型的需求，本文也给出了相关插件的安装说明。

训推智算服务平台是为大模型训练、推理、应用提供全栈工具链的智算服务平台,包含数据管理、模型开发与训练、模型评估、模型管理、服务部署等模块。内置丰富的基座大模型,支持国产化等异构算力,提供算子加速与模型加速,极大提升大模型训练推理效率。

训推智算服务平台是为大模型训练、推理、应用提供全栈工具链的智算服务平台,包含数据管理、模型开发与训练、模型评估、模型管理、服务部署等模块。内置丰富的基座大模型,支持国产化等异构算力,提供算子加速与模型加速,极大提升大模型训练推理效率。

处理措施 查找大key、热key，方法如下： DCS控制台提供了大Key和热Key的分析功能，你可参考缓存分析减少大key和热key。 通过rediscli的bigkeys和hotkeys参数查找大Key和热Key： Rediscli提供了bigkeys参数，能够使rediscli以遍历的方式分析Redis实例中的所有Key，并返回Key的整体统计信息与每个数据类型中Top1的大Key，bigkeys仅能分析并输入六种数据类型（STRING、LIST、HASH、SET、ZSET、STREAM），命令示例为： rediscli h p a bigkeys 。 自Redis 4.0版本起，rediscli提供了hotkeys参数，可以快速帮您找出业务中的热Key，该命令需要在业务实际运行期间执行，以统计运行期间的热Key。命令示例为： rediscli h p a hotkeys 。热Key的详情可以在结果中的summary部分获取到。 提前发现大key、热key。 参考配置告警配置节点级别的内存利用率 监控指标的告警。 如果某个节点存在大key，这个节点比其他节点内存使用率高很多，会触发告警，便于您发现潜在的大key。 参考配置告警配置节点级别的 入网最大带宽、出网最大带宽 、CPU利用率监控指标的告警。 如果某个节点存在热key，这个节点的带宽占用、CPU利用率都比其他节点高，该节点会容易触发告警，便于您发现潜在热key。 说明 由于Redis 3.0实例不支持热key分析，您可以使用该方式帮助您发现热key。 其他优化建议： string类型控制在10KB以内 ，hash、list、set、zset 元素尽量不超过5000 。 key的命名前缀为业务缩写，禁止包含特殊字符(比如空格、换行、单双引号以及其他转义字符)。 Redis事务功能较弱，不建议过多使用。 短连接性能差，推荐使用带有连接池的客户端。 如果只是用于数据缓存，容忍数据丢失，建议关闭持久化。 如果实例内存使用率通过以上方式仍然很高，请考虑在业务低峰期扩大实例规格。具体操作请参见变更实例规格。

Web应用防火墙（边缘云版）依托天翼云云安全节点形成云安全边缘网络，区别于传统WAF需要在源站前端部署，Web应用防火墙（边缘云版）把安全能力赋能在所有边缘节点，利用分布式节点部署使计算能力更强，有效降低源站计算压力，提升了用户访问质量的同时保护了源站数据的安全。本节介绍了Web应用防火墙（边缘云版）产品的优势。 自主可控的安全防护能力 基于 AI+ 规则双引擎的 Web 攻击识别，构建一体化应用业务安全防护。 业务流量识别与分析，自定义规则匹配用户业务，避免误拦截、漏拦截。 支持Bot流量管理和智能CC防护。 弹性扩容无惧突发风险 分布式集群防护，单点故障自动转移，确保网站的高可用性。 动态调整边缘节点，无缝扩展QPS 防护能力，可达亿级别防护规模。 利用大平台优势，基于全网、全行业流量的攻击数据，结合机器学习算法，构建一套智能防护体系。 便捷的运营与管理 零部署、零运维，支持多云、混合云环境，一键CNAME接入，云端安全专家配置策略。 集中监控和分散维护相结合，NOC 工程师7×24小时集中监控，网络工程师 7×24 小时在线支持，节点现场服务工程师进行服务保障。 支持一键开启IPv6功能，无缝处理IPv4和IPv6流量。 提供可视化报表、态势感知大屏，深入分析安全隐患，清晰把控全局。 敏感的威胁情报感知 0day漏洞快速修复，天翼云安全团队724小时监测，主动发现新型攻击并24小时内响应，帮助用户抵御最新威胁。

步骤二：登录ECS自建数据库实例 您可以通过数据管理服务登录ECS自建数据库，轻松操作与管理数据库。 前提条件 登录ECS自建数据库实例之前需要先建立数据库实例登录信息，具体操作请参考步骤一：新增数据库实例登录信息。 操作步骤 步骤 1 登录管理控制台。 步骤 2 单击管理控制台左上角的 ，选择区域和项目。 步骤 3 单击页面左上角的 ，选择“数据库 > 数据管理服务 DAS”，进入数据管理服务页面。 步骤 4 在左侧导航栏中，单击“开发工具”，进入开发工具页面。 步骤 5 选择需要登录的目标数据库，单击操作列表中的“登录”。 结束

本章节主要介绍翼MapReduce服务的产品定义、架构与优势。 产品定义 翼MapReduce（简称：“翼MR”），是基于当前开源新版本大数据组件进行产品化封装，可以为客户提供快速部署、便捷维护的HDFS、YARN、Spark、Flink、Hive、Doris、Kafka、HBase等高性能的大数据组件以及运维管理平台，同时产品默认提供强安全验证能力，具备高安全、高扩展、快捷运维等特色，支持批量数据处理、流式数据处理、离线数据分析、在线查询等场景。 产品架构 翼MR集群各个版本组件情况请参见版本概述。 详见下图：翼MR架构图 翼MR架构包括了基础设施和大数据处理流程各个阶段的能力。 ● 基础设施 基于天翼云弹性云主机CTECS构建的大数据集群，整体集群的高可靠和高安全能力可以得到虚拟化底层的充分保证。 虚拟私有云（CTVPC）为每个租户提供虚拟的内部网络，默认与其他网络隔离，同时通过配套的安全组访问控制确保网络层面的安全性。 云硬盘（CTEVS）提供不同规格和性能表现的高可靠存储能力。 弹性云主机（CTECS）提供的弹性可扩展虚拟服务器，结合上述的CTVPC、安全组、CTEVS数据多副本和灾备能力为客户打造一个高效、可靠、安全的业务集群环境。 物理机服务（CTDPS）是基于天翼云软硬结合技术研发的一款拥有极致性能的裸金属服务器，兼具云主机的灵活弹性、物理机的稳定，提供算力强劲的计算类服务，提供专属的云上物理服务器，为大数据、核心数据库、高性能计算等业务提供服务稳定、数据安全、性能卓越的算力服务。 ● 数据集成 数据集成层提供了客户的数据集成进翼MR集群的能力，包括：Kafka、Logstash、SeaTunnel、Flume，支持各种数据源导入数据到翼MR大数据集群中。 ● 数据存储 翼MR支持结构化和非结构化数据在集群中的存储，并且支持多种高效的格式来满 足不同计算引擎的要求。 – HDFS是大数据上通用的分布式文件系统。 – Doris是实时数据仓库服务，具有高并发、低延迟的特点。 – HBase支持带索引的数据存储，适合高性能基于索引查询的场景。 – Elasticsearch支持结构化/非结构化数据的检索、分析场景。 ● 数据调度和计算处理 – 翼MR提供多种主流计算引擎：MapReduce（批处理）、 Spark（内存计算）、Flink（流计算），满足多种离线或实时大数据应用场景，将数据进行结构和逻辑的转换，转化成满足业务目标的数据模型。 – 基于预设的数据模型，使用易用SQL的数据分析，用户可以选择Hive（数据仓库），SparkSQL以及Trino交互式查询引擎。 ● 翼MR Manager 为确保大数据组件服务的高可用性，以Hadoop为基础的大数据生态的各种组件均需要以分布式的方式进行部署，涉及其中的部署、管理和运维复杂度要求较高。翼MR提供了统一的运维管理平台翼MR Manager，包括可视化引导式部署集群能力。同时翼MR Manager还提供了租户与资源管理能力，以及翼MR中各类大数据组件的运维，并提供监控、告警、配置等一站式运维能力。

步骤三：测试模型微调效果 LLaMAFactory框架提供了模型推理的能力，可直接进入Chat页面加载模型进行对话。 1. 测试基础大模型效果 保持模型名称和模型路径不变，不设置检查点路径，在Chat页面直接点击加载模型，即可测试基础大模型的效果。 本案例使用prompt"天翼云弹性云主机包含哪些规格"进行测试。 基础DeepSeekR1DistillQwen7B大模型给出了通用但是错误的回答。 2. 测试微调大模型的效果 本案例采用了lora的微调方法，因此需将检查点路径设置为步骤二中完成训练的lora小模型。 本案例使用prompt"天翼云弹性云主机包含哪些规格"进行测试。 微调后的大模型能够给出符合微调数据集的回答。 从纯净版ubuntu系统构建微调环境 除了使用预装镜像外, 您也可以从任意ubuntu云主机开始, 按以下步骤搭建出LLaMAFactory微调环境, 并下载任意您需要的模型。

步骤三：测试模型微调效果 LLaMAFactory框架提供了模型推理的能力，可直接进入Chat页面加载模型进行对话。 1. 测试基础大模型效果 保持模型名称和模型路径不变，不设置检查点路径，在Chat页面直接点击加载模型，即可测试基础大模型的效果。 本案例使用prompt"天翼云弹性云主机包含哪些规格"进行测试。 基础DeepSeekR1DistillQwen7B大模型给出了通用但是错误的回答。 2. 测试微调大模型的效果 本案例采用了lora的微调方法，因此需将检查点路径设置为步骤二中完成训练的lora小模型。 本案例使用prompt"天翼云弹性云主机包含哪些规格"进行测试。 微调后的大模型能够给出符合微调数据集的回答。 从纯净版ubuntu系统构建微调环境 除了使用预装镜像外, 您也可以从任意ubuntu云主机开始, 按以下步骤搭建出LLaMAFactory微调环境, 并下载任意您需要的模型。

业务场景 主要加速内容 主要关注指标 静态小文件 图片、html、css和js等静态内容。 1.首包时间。 2.内容下载时间。 3.服务可用性。 大文件下载 游戏软件安装包下载、手机ROM升级、应用更新和网盘文件下载等大文件。 1.下载速度。 2.下载总耗时。 3.服务可用性。 音视频点播 包含但不限于mp3、wma、mp4、flv、hls和大ts等音视频点播文件。 1.首屏时间。 2.卡顿率。 3.服务可用性或者成功率。

本文介绍天翼云CDN加速支持静态小文件加速、大文件下载、音视频点播三大类加速场景。 应用场景 场景概述 CDN加速解决的业务痛点 静态小文件 适用于政府官网、金融证券、电子商务和新闻媒体等各类网站，加快网页加载速度，提升数据传输安全。 电商网站商品信息加载失败、加载慢，订单流失。 政企官网响应慢，影响群众办事效率，群众投诉。 网站新业务推广期间，并发大，源站服务器压力大，服务器容易崩溃，造成服务不可用。 终端用户分布在不同区域和不同运营商，访问速度和质量差异较大。 大文件下载 适用于应用商店和游戏更新等大文件下载加速，减少下载中断和错误，给用户极致的下载体验。 业务被劫持，用户下载到旧版安装包，重新下载耗费额外的资源，体验差。 应用下载速度慢，长时间停留在缓冲状态，用户体验差。 热门应用发布下载高并发，源站服务器容易崩溃，造成服务不可用。 音视频点播 适用于视频门户、短视频平台和在线教育的点播视频加速，让视频播放流畅不卡顿，并有效保护版权。 视频播放首屏播放慢，播放不流畅。 视频内容被盗链，产生额外流量成本。 热门新剧发布高并发，对源站性能要求高，源站带宽成本较高。

功能模块 功能详情 态势总览 安全评分：集中呈现资产安全风险评分和风险等级分布，同时展示当前风险防御能力。 安全监控：实时展示安全监控统计数据。 安全趋势：展示近7天内您的整体资产安全健康得分的趋势。 安全报告 通过创建分析报告，及时掌握资产的安全状况数据。 任务中心 集中呈现当前需要进行处理的任务。 AI风险概览 AI风险概览实时为您呈现大模型合规态势，支持大模型的数据语料风险运营、推理业务风险运营和环境安全风险运营，实时呈现大模型的风险概览，助您识别大模型风险和潜在威胁。通过控制台“AI风险概览”为您呈现推理安全、语料安全、环境安全的风险态势。

参数 子参数 说明 GRAPH类索引配置参数 ef 查询时考察邻居节点的队列大小。值越大查询精度越高，查询速度会变慢。默认值为200。 取值范围：(0, 100000] GRAPH类索引配置参数 maxscannum 扫描节点上限。值越大精度越高，查询速度变慢。默认值为10000。 取值范围：(0, 1000000] IVF类索引配置参数 nprobe 查询考察中心点的数目。值越大精度越高，查询速度变慢。默认值为100。 取值范围：(0, 100000]

本节介绍如何购买大模型安全卫士性能扩展包。 1. 登录智算安全专区控制台。 2. 在“大模型安全卫士”实例页面，找到需要扩展性能的实例，单击“扩展”。 3. 进入升配页面，在性能扩展包右侧单击“去增项”。

功能 高级版 企业版 互联网边界防火墙 可防护公网IP数 高级版套餐默认包含20个。 可扩展范围：20个~1000个。 企业版套餐默认包含50个。 可扩展范围：50个~1000个。 互联网边界防火墙 公网流量处理能力 高级版套餐餐默认包含10Mbps。 可扩展范围：10Mbps~2000Mbps。 说明 支持定制更大规格，可弹性扩展至100G+，如需防护更大规格的带宽流量，请 企业版套餐默认包含50Mbps。 可扩展范围：50Mbps~2000Mbps。 说明 支持定制更大规格，可弹性扩展至100G+，如需防护更大规格的带宽流量，请 VPC边界防火墙 VPC边界防火墙配额数 × 企业版套餐默认包含2个。 可扩展范围：2个~150个。 VPC边界防火墙 VPC边界流量处理能力 × 企业版套餐默认包含200Mbps。 可扩展范围：200Mbps~5000Mbps。 说明 支持定制更大规格，可弹性扩展至100G+，如需防护更大规格的带宽流量，请 网络访问控制 支持策略数10000 支持策略数10000 入侵防御检测（IPS） ✓ ✓ 日志审计 ✓ ✓ 防病毒（AntiVirus） × ✓

监控指标中存在已拒绝连接数是什么原因？ 当监控指标中出现已拒绝连接数时，请确认客户端连接数是否已经超过实例的最大连接数限制，实例最大连接数可以查看参数maxclients。 查看最大连接数：单击实例名称，进入实例详情页面，选择“配置参数”页签，查看maxclients参数的值。（Proxy集群实例不支持maxclients参数，最大连接数请参考控制台实例创建页面中的实例规格。） 查看实际连接数：单击实例名称，进入实例详情页面，选择“性能监控”页签，找到“活跃的客户端数量”监控项查看。 如果客户端连接数已到达连接上限，可以根据需要调整maxclients参数，如果maxclients参数已经是最大可配连接数，仍不满足需求，则需要升级规格。 触发限流（流控）的原因和处理建议 Redis产生流控，说明redis在周期内的使用流量超过该实例规格的最大带宽。 说明 实例规格对应的最大带宽，可以查看 2.4实例规格 带宽使用率不高时，也有可能有限流，因为带宽使用率是上报周期实时值，一个上报周期检查一次。而流控检查是秒级的，有可能存在上报周期间隔期间，流量有秒级冲高，然后回落，待上报带宽使用率指标时已恢复正常。 对于主备实例： 如果实例一直有流控但是带宽使用率不高，这说明可能存在业务微突发问题，或者大Key热Key问题，建议对实例进行自动诊断分析，优先排除大Key热Key问题。 如果带宽使用率居高不下，说明带宽可能存在超限风险，需要扩容处理（容量越大，带宽越大）。 对于集群实例： 仅有单个或少量几个分片出现流控，则多数为该分片存在大Key热Key问题。 所有或大多数分片同时出现流控或者带宽使用率高的问题，这说明实例的带宽达到了瓶颈，建议扩容实例。 说明 DCS控制台提供了大Key和热Key的分析功能，你可参考 如果用户执行了keys等消耗资源的命令，也可能会导致CPU和带宽使用率增加，从而出现流控。

本节介绍了登录他人共享的数据库实例的相关内容。 登录他人共享给我的数据库实例 假如有人给您共享数据库实例后，您可登录被共享数据库实例。 步骤 1 使用子账号登录管理控制台。 步骤 2 单击管理控制台左上角的 ，选择区域和项目。 步骤 3 单击页面左上角的 ，选择“数据库 > 数据管理服务 DAS”，进入数据管理服务页面。 步骤 4 在左侧导航栏中，单击“开发工具”，进入开发工具页面。 步骤 5 选择“他人共享给我的数据库实例连接”页签。 步骤 6 找到他人共享给我的数据库实例信息，单击操作列的“登录”，即可登录被共享数据库实例。 结束

准备工作 购买智算安全专区大模型安全卫士实例 准备好被代理的大模型服务 准备好基础大模型 操作流程 编号 操作 相关文档 1 （可选）根据用户需求检查并配置分类和规则 新增规则 分类管理 2 （建议）配置用于模型推理引擎的基础模型 基础模型设置 3 配置或新建策略，按需选择违规分类、检测引擎、及其他检测配置 内容安全策略管理 检测引擎配置说明 4 按需配置模型代理 网关代理