镜像描述 当前镜像处于公测阶段，您可在华东1资源池试用。如果您希望在其他资源池试用该镜像，可以提交工单申请。 openGauss 是面向数据基础设施的开源关系型数据库。openGauss 调优镜像由天翼云与 openGauss 社区联合推出，基于 AI 学习自动优化数据库参数，提供预装 openGauss 并配置最优参数的 ECS 镜像。使用该镜像，用户可快速部署 openGauss 数据库，并获得优于默认配置的性能表现。该镜像采用 NUMA（NonUniform Memory Access，非统一内存访问）分区优化、ARM 指令集加速等关键技术，并通过多轮测试数据训练性能预测模型，最终实现接近真实业务场景的自动化最优调参。 配置要求 推荐配置：vCPU ≥ 4 核，内存 ≥ 16 GB；建议使用鲲鹏架构的云服务器。 免责说明 免责声明：本镜像中集成的 openGauss 数据库来源于第三方开源社区，仅供用户参考和使用。本公司不对因不当使用该镜像所导致的任何损失或损害承担法律责任。用户应确保其使用行为符合相关法律法规，并遵守 openGauss 社区的相关协议。 实践指南 数据库镜像使用指导 您可在华东1云主机订购页市场镜像服务器软件分类 选择试用openGauss调优专用镜像。 自行安装说明（若使用天翼云 openGauss 调优专用镜像，可跳过此部分）。 plaintext 极简模式服务器单点参考： 下载数据库安装包(登录openGauss开源社区[](openGauss开源社区)，选择对应平台的最新安装包下载。对于个人开发者或非企业级环境，下载极简安装包（不安装OM等组件）即可)。 plaintext 下载链接： plaintext 考虑到 glibc 版本兼容性问题，CtyunOS操作系统需要下载 openEuler 22.03 对应的安装版本： x8664: arm64： 首次使用天翼云 openGauss 调优专用镜像开通云主机后需要执行以下步骤： 说明 由于 openGauss 要求使用非 root 普通用户进行安装和运行，该镜像已预置非 root 用户 omm。出于云主机安全考虑，omm 用户默认被禁止登录。 plaintext

本文为您介绍GPU云主机的主要应用场景。 图形图像渲染 图形图像渲染场景下天翼云GPU云主机最高采用业界领先的GPU A10显卡，提供24G的大显存容量和强大的图形填充速率，支持多种图形加速接口，如DirectX 12、OpenGL 4.5、Vulkan 1.0等，配合英伟达官方vWS Licence 授权，为专业级CAD、视频渲染、图形处理提供所需的强大计算能力，为虚拟化工作站、桌面和应用程序提供行业内超高的用户性能，结合天翼云的对象存储、弹性云主机以及专线，可以快速构建自己的图像渲染以及分析计算中心。 科学计算 在科学计算领域，模拟仿真过程中，消耗大量计算资源的同时，会产生大量临时数据，对存储带宽与时延也有极高的要求。P系列计算加速型GPU云主机，最高采用业界领先的GPU显卡A100，提供40GB的显存容量和9.7TFLOPS双精度计算能力以及大吞吐的带宽。同时支持一机多卡模式，让用户可以在一台云主机上体验多卡的计算能力，达到计算性能翻倍。 AI深度学习 AI深度学习需要处理大批量数据，并不断迭代神经网络参数以满足业务对预测精度的要求，对运行稳定性要求更高，对服务器响应延时也有更高要求。P系列计算加速型GPU云主机，采用业界领先的GPU显卡，提供大容量显存和高双精度计算能力以及大吞吐的带宽，其深度学习TF32运算能力可到156 TFLOPS，支持常见的深度学习框架TensorFlow、Caffe、PyTorch、MXNet 等。配合天翼云弹性云主机、负载均衡、对象存储、关系型数据库RDS、云监控等服务，可以搭建一个功能完备的深度学习平台，能够快速、高效、低成本的完成训练、推理任务。

本文为您介绍如何使用ECI快速部署Tensorflow。 前提条件 确保您已经创建Serverless集群，具体操作请参阅创建Serverless集群 。 已开通天翼云弹性文件或对象存储服务，用于存储tensorflow训练结果。 背景信息 TensorFlow是一个开源的机器学习框架，由Google开发和维护。它提供了一个灵活的编程环境，可以用于构建和训练各种机器学习模型，包括神经网络。TensorFlow使用图形计算的方式来表示计算任务，并通过优化技术来实现高效的计算。它支持多种编程语言，包括Python和C++，并且可以在各种硬件平台上运行，包括CPU、GPU和TPU。TensorFlow已经成为机器学习和深度学习领域最受欢迎的框架之一，被广泛应用于各种领域，如图像识别、自然语言处理、推荐系统等。 准备工作 1. 准备训练数据和容器镜像。 1. 训练数据：本文以Github的一个TensorFlow训练任务为例。 2. 容器镜像：在最佳实践中，已准备好适用的示例镜像，示例镜像已上传到天翼云容器镜像仓库中。 2. 创建镜像缓存。在ECI控制台的镜像缓存页面手动创建镜像缓存，如下图所示： 创建镜像缓存时需拉取镜像，受镜像大小和网络的影响，需要一定时间。可通过镜像缓存列表页或者镜像缓存详情页查看进度。镜像缓存状态显示ready时，表示镜像缓存已经创建成功。 3. 创建NAS文件系统。在文件存储控制台创建文件系统。NAS文件系统需和ACK Serverless集群处于同一VPC。

本文主要介绍计算加速型P3v 概述 P3v型弹性云主机采用NVIDIA A800 GPU，在提供云主机灵活性的同时，提供超高性能计算能力。适用于AI深度学习、科学计算，在深度学习训练、科学计算、计算流体动力学、计算金融、地震分析、分子建模、基因组学等领域都能表现出巨大的计算优势。理论单精度浮点性能：FP32：19.5TFLOPS。Tensor核心浮点性能：TF32: 156TFLOPS，BFLOAT16: 312TFLOPS。 类型 CPU基频/睿频 CPU型号 P3v 2.6GHz/3.5GHz 第三代英特尔® 至强® 可扩展处理器 6348 规格 规格名称 vCPU 内存（GiB） 最大带宽/基准带宽（Gbps） 最大收发包能力（万PPS） 网卡多队列数 网卡个数个数上限 GPU GPU连接技术 显存（GiB） 虚拟化类型 p3v.3xlarge.8 12 96 17/5 200 4 4 1 × NVIDIA A800 80GB N/A 80 KVM p3v.24xlarge.8 96 768 40/36 850 32 8 8 × NVIDIA A800 80GB NVLink 640 KVM P3v型弹性云主机功能如下： 处理器：第三代英特尔® 至强® 可扩展处理器 6348，主频2.6GHz，睿频3.5GHz。 支持NVIDIA A800 GPU卡，每台云主机支持最大8张A800显卡。 支持NVIDIA CUDA并行计算，支持常见的深度学习框架Tensorflow、Caffe、PyTorch、MXNet等。 单精度能力19.5 TFLOPS，双精度能力9.7 TFLOPS。 支持NVIDIA Tensor Core能力，深度学习混合精度运算能力达到156 TFLOPS。 单实例最大网络带宽40Gb/s。 单卡 80GB HBM2显存，显存带宽2039Gb/s，支持多卡NVLINK互联技术。 完整的基础能力： 网络自定义，自由划分子网、设置网络访问策略。 海量存储，弹性扩容，支持备份与恢复，让数据更加安全。 弹性伸缩，快速增加或减少云主机数量。 灵活选择： 与普通云主机一样，P3v型云主机可以做到分钟级快速发放。 优秀的超算生态： 拥有完善的超算生态环境，用户可以构建灵活弹性、高性能、高性价比的计算平台。大量的HPC应用程序和深度学习框架已经可以运行在P3v实例上。

功能 描述 认证&授权 双因子认证 内置手机APP认证（谷歌动态口令验证）、OTP动态令牌、USBkey双因素认证引擎。 提供短信认证、AD、LDAP、RADIUS认证接口。 支持多种认证方式组合。 认证&授权 权限管理 系统预置多种用户角色：超级管理员、部门管理员、运维管理员、审计管理员、运维员、审计员、系统管理员和密码管理员。 每种用户角色的权限均不同，且可自定义用户角色。 认证&授权 集中授权 梳理用户与主机之间关系，提供一对一、一对多、多对一、多对多的灵活授权模式。 认证&授权 单点登录 托管主机的帐户和密码，运维人员直接点击“登录”即可成功自动登录到目标主机中进行运维操作，无需输入主机的帐户和密码。 认证&授权 自动学习 运维人员通过堡垒机成功登录目标主机后即可自动录入主机信息，减轻管理员配置主机信息、用户与主机关系的工作量。 运维&审计 运维协议支持 支持管理Linux/Unix服务器、Windows服务器、网络设备（如思科/H3C/华为等）、文件服务器、Web系统、数据库服务器、虚拟服务器、远程管理服务器等。 兼容Xshell、XFTP、SecureCRT、MSTSC、VNC Viewer、PuTTY、WinSCP、FlashFXP、SecureFX等多种客户端工具。 运维&审计 统一审计 对所有操作进行详细记录，提供综合查询；审计日志可在线或离线播放，自动备份归档。 审计内容包括图形、字符、文件、应用、SQL语句等会话及应用会话。 运维&审计 浏览器客户端运维 基于H5技术实现浏览器客户端运维，无需安装本地工具，直接通过浏览器打开运维界面。 支持通过SSH、Telnet、Rlogin、RDP、VNC协议的Web客户端运维。 运维&审计 文件传输审计 记录所有操作会话，包括在线监控、实时阻断、日志回放、起止时间、来源用户、来源IP、目标设备、协议/应用类型、命令记录、操作内容。 完整备份传输文件，为上传恶意文件、拖库、窃取数据等危险行为提供查询依据。 运维&审计 自动运维 实现自动化的运维任务并将执行结果通知相关人员。 运维&审计 资产管理 支持主机、主机组、混合云、帐号、帐号组、应用等多种资产类型。 运维&审计 命令控制 集中命令控制基于不同主机、不同用户设置不同的命令控制策略，包括命令阻断、命令黑名单、命令白名单、命令审核四种动作。 运维&审计 工单流程 运维人员向管理员申请需要访问的设备，选择条件包括设备IP、设备帐户、运维有效期、备注事由等，运维工单以邮件方式通知管理员。 其他 系统自审 对系统自身变化信息进行审计，形成系统分析报表。 其他 冗余架构 结合端口聚合技术、RAID技术和HA技术，实现三重冗余备份的高可用架构。 其他 API接口 提供用户、资产、授权的增删改查等API接口。 允许第三方平台调用API接口，实现用户、资产、权限自动同步。

本节介绍了内容审核的产品优势。 海量数据样本 基于多年积累的海量互联网数据，训练出先进的AI模型。 数据样本涵盖了文本、图像等多种类型，并对数据进行严格的筛选、清洗和标注，确保数据的质量和多样性。 性价比高 自动化精准识别，节省大量审核人力投入，毫秒级结果返回。 通过内容审核能够处理的数据量、速度和准确度都远超人工，将繁琐、重复性的审核工作交给内容审核，让人力资源投入到更有价值的工作中。 单次审核多个数据 支持同时审核多张图片或者多条文本，一次性返回所有数据的审核结果，处理效率显著提高，带来极大的便利。 识别准确率高 使用深度学习与机器学习相结合的方式，基于大规模和多主题数据的模型训练，具备较高的识别率和较低的误判率。深度学习可以从大规模数据中自动提取有效的特征，而机器学习分类器则可以对这些特征进行快速、准确的分类和识别。大规模数据可以提供更多的样本和场景，使得模型能够更好地适应各种情况和变化。多主题数据则可以提供更全面的信息和知识，使得模型能够更加准确地识别和分类内容。 覆盖多领域的内容审核 涵盖目前主要的违规非法类的信息审核，可持续扩展更多领域的审核能力。包括但不限于以下方面： 涉黄信息：检测文本、图片和视频中的涉黄信息，包括露骨色情内容、性暗示等。 暴力内容：检测文本、图片和视频中的暴力内容，包括血腥、残酷、暴力的场面或语言。 政治敏感内容：检测文本中的政治敏感词汇、观点和言论，以防止恶意攻击、造谣传谣等行为。 内容审核具有覆盖多领域的能力，可以根据具体需求进行定制化开发，实现高效、准确的内容审核。

本文向您介绍如何部署大模型学习机。 您可以通过本文的指导，使用镜像部署大模型学习机。 购买云主机 1. 登录云主机控制台，选择创建云主机资源池，点击“创建云主机”按钮。 2. 您可在以下资源池进行不同规格的开通： 注意 在加载Llama 2或者LLaMA3模型时, Pi2和s7.2xlarge.4规格使用默认配置会因为显存/内存不足加载失败, 需要通过勾选loadin8bit选项降低模型精度或关闭StableDiffusion服务后再加载Llama 2/LLaMA3模型. 参考文档:大模型学习机服务启停。 云服务器规格族 云服务器规格 支持大模型镜像资源池 镜像 GPU计算加速型 PI7 重庆重庆2、宁夏中卫5、辽宁辽阳1 LLaMA2StableDffusionWebUIGPU LLaMA3StableDffusionWebUIGPU GPU计算加速型 PI2 重庆重庆2、上海上海7 LLaMA2StableDffusionWebUIGPU LLaMA3StableDffusionWebUIGPU 通用型 S7(64G以上规格) 西南1az1/az2 LLaMA2StableDffusionWebUICPU LLaMA3StableDffusionWebUICPU

本文主要介绍产品概述 应用运维遇到挑战 在云时代微服务架构下应用日益丰富，纷杂的应用异常问题接踵而来。应用运维面临巨大挑战： 分布式应用关系错综复杂，应用性能问题分析定位困难，应用运维面临如何保障应用正常、快速完成问题定位、迅速找到性能瓶颈的挑战。 应用体验差导致用户流失。运维人员如果无法实时感知并追踪体验差的业务，不能及时诊断应用异常，将严重影响用户体验。 业务系统的应用多、分布广，跨系统、跨区域、跨应用的调用频繁，如何降低应用的管理和运维成本，提升应用运维的效率是迫切需要解决的问题。 APM帮您解决 应用性能管理服务（Application Performance Management，简称APM）帮助运维人员快速发现应用的性能瓶颈，以及故障根源的快速定位，为用户体验保驾护航。 您无需修改代码，只需为应用安装一个APM Agent，就能够对该应用进行全方位监控，帮助您快速定位出错接口和慢接口、重现调用参数、发现系统瓶颈，从而大幅提升线上问题诊断的效率。目前支持JAVA应用，具体的应用监控能力概览如下表。 表 APM监控能力 场景能力 说明 非侵入的应用性能数据采集 用户无需更改应用代码，只需要部署APM Agent包，修改相应的应用启动参数，就可以实现应用监控。 应用指标监控 无须配置，自动监控应用相关大量监控指标，如JVM、JavaMethod、URL、Exception、Tomcat、httpClient、Mysql、Redis、kafka等。 应用拓扑 通过对RPC调用信息进行动态分析、智能计算，自动生成分布式应用间拓扑关系。 调用链追踪 多个应用接入APM后，自动针对某一些请求进行采样，采集单个请求的服务之间调用关系以及中间调用的健康情况，实现全局调用链路的自动跟踪。 常用诊断场景的指标下钻分析 根据应用响应时间、请求数、错误率等指标下钻分析，按应用、组件、环境、数据库和中间件等多维度查看。 异常URL跟踪和慢URL跟踪捕捉 基于调用URL跟踪的超时和异常分析，并有效自动关联到对应的接口调用，如 SQL、MQ 等。 1. 接入APM：应用通过APM自身的AK/SK鉴权进行接入。 2. 数据采集：APM可以通过非侵入方式采集APM Agent提供的应用数据、基础资源数据、用户体验数据等多项指标。 3. 业务实现：APM支持应用指标监控、应用拓扑、调用链追踪和智能告警功能。 4. 业务拓展： 1. 通过APM的应用拓扑、调用链追踪等快速诊断应用性能异常，并结合AOM（应用运维管理）的应用运维指标进行综合判断。 2. 找到应用性能瓶颈后，可以通过CPTS（云性能测试服务 ）关联分析生成性能报表。 3. 通过智能算法学习历史指标数据，APM多维度关联分析异常指标，提取业务正常与异常时上下文数据特征，通过聚类分析找到问题根因。

平台提供了以下大模型API能力。 模型名称 模型简介 模型ID DeepSeekR1昇腾版 DeepSeekR1是一款具有671B参数大小的创新性大语言模型，由杭州深度求索人工智能基础技术研究有限公司开发。该模型基于 transformer 架构，通过对海量语料数据进行预训练，结合注意力机制，能够理解和生成自然语言。它经过监督微调、人类反馈的强化学习等技术进行对齐，具备语义分析、计算推理、问答对话、篇章生成、代码编写等多种能力。R1 模型在多个 NLP 基准测试中表现出色，具备较强的泛化能力和适应性。 4bd107bff85941239e27b1509eccfe98 DeepSeekR1昇腾版2 DeepSeekR1是一款具有671B参数大小的创新性大语言模型，该模型基于 transformer 架构，通过对海量语料数据进行预训练，结合注意力机制，经过监督微调、人类反馈的强化学习等技术进行对齐，具备语义分析、计算推理、问答对话、篇章生成、代码编写等多种能力。R1 模型在多个 NLP 基准测试中表现出色，具备较强的泛化能力和适应性。 7ba7726dad4c4ea4ab7f39c7741aea68 DeepSeekV3昇腾版 DeepSeekV3是DeepSeek团队开发的新一代专家混合（MoE）语言模型，共有671B参数，在14.8万亿个Tokens上进行预训练。该模型采用多头潜在注意力（MLA）和DeepSeekMoE架构，继承了DeepSeekV2模型的优势，并在性能、效率和功能上进行了显著提升。 9dc913a037774fc0b248376905c85da5 DeepSeekR1DistillLlama70B DeepSeekR1DistillLlama70B是基于Llama架构并经过强化学习和蒸馏优化开发的高性能语言模型。该模型融合了DeepSeekR1的先进知识蒸馏技术与Llama70B模型的架构优势。通过知识蒸馏，在保持较小参数规模的同时，具备强大的语言理解和生成能力。 515fdba33cc84aa799bbd44b6e00660d DeepSeekR1DistillQwen32B DeepSeekR1DistillQwen32B是通过知识蒸馏技术从DeepSeekR1模型中提炼出来的小型语言模型。它继承了DeepSeekR1的推理能力，专注于数学和逻辑推理任务，但体积更小，适合资源受限的环境。 b383c1eecf2c4b30b4bcca7f019cf90d Baichuan2Turbo BaichuanTurbo系列模型是百川智能推出的大语言模型，采用搜索增强技术实现大模型与领域知识、全网知识的全面链接。 43ac83747cb34730a00b7cfe590c89ac Llama213BChat Llama2是预先训练和微调的生成文本模型的集合，其规模从70亿到700亿个参数不等。这是13B微调模型的存储库，针对对话用例进行了优化。 96dc8f33609d4ce6af3ff55ea377831a Qwen7BChat 通义千问7B（Qwen7B）是阿里云研发的通义千问大模型系列的70亿参数规模的模型。Qwen7B是基于Transformer的大语言模型, 在超大规模的预训练数据上进行训练得到。预训练数据类型多样，覆盖广泛，包括大量网络文本、专业书籍、代码等。同时，在Qwen7B的基础上，使用对齐机制打造了基于大语言模型的AI助手Qwen7BChat。 fc23987da1344a8f8bdf1274e832f193 Llama27BChat Llama27BChat是Meta AI开发的大型语言模型Llama2家族中最小的聊天模型。该模型有70亿个参数，并在来自公开来源的2万亿token数据上进行了预训练。它已经在超过一百万个人工注释的指令数据集上进行了微调。 e30f90ca899a4b1a9c25c0949edd64fc Llama270BChat Llama 2 是预训练和微调的生成文本模型的集合，规模从 70 亿到 700 亿个参数不等。这是 70B 微调模型的存储库，针对对话用例进行了优化。 bafbc7785d50466c89819da43964332b Qwen1.57BChat 通义千问1.5（Qwen1.5）是阿里云研发的通义千问系列开源模型，是一种基于 Transformer 的纯解码器语言模型，已在大量数据上进行了预训练。该系列包括Base和Chat等多版本、多规模，满足不同的计算需求，这是Qwen1.57BChat版本。 bfc0bdbf8b394c139a734235b1e6f887 Qwen272BInstruct Qwen2 是 Qwen 大型语言模型的新系列。Qwen2发布了5个尺寸的预训练和指令微调模型，包括Qwen20.5B、Qwen21.5B、Qwen27B、Qwen257BA14B以及Qwen272B。这是指令调整的 72B Qwen2 模型，使用了大量数据对模型进行了预训练，并使用监督微调和直接偏好优化对模型进行了后训练。 2f05789705a64606a552fc2b30326bba ChatGLM36B ChatGLM36B 是 ChatGLM 系列最新一代的开源模型，在保留了前两代模型对话流畅、部署门槛低等众多优秀特性的基础上，ChatGLM36B 引入了更强大的基础模型、更完整的功能支持、更全面的开源序列几大特性。 7450fa195778420393542c7fa13c6640 TeleChat12B 星辰语义大模型TeleChat是由中电信人工智能科技有限公司研发训练的大语言模型，TeleChat12B模型基座采用3万亿 Tokens中英文高质量语料进行训练。TeleChat12Bbot在模型结构、训练数据、训练方法等方面进行了改进，在通用问答和知识类、代码类、数学类榜单上相比TeleChat7Bbot均有大幅提升。 fdc31b36028043c48b15131885b148ce Qwen1.514BChat 通义千问1.5（Qwen1.5）是阿里云研发的通义千问系列开源模型，是一种基于 Transformer 的纯解码器语言模型，已在大量数据上进行了预训练。该系列包括Base和Chat等多版本、多规模，满足不同的计算需求，这是Qwen1.514BChat版本。 acfe01f00b0c4ff49c29c6c77b771b60 Llama38BInstruct Meta 开发并发布了 Meta Llama 3 系列大型语言模型 （LLM），包含 8B 和 70B 两种参数大小，Llama38BInstruct 是经过指令微调的版本，针对对话用例进行了优化，在常见的行业基准测试中优于许多可用的开源聊天模型。 bda59c34e4424598bbd5930eba713fbf Llama370BInstruct Meta 开发并发布了 Meta Llama 3 系列大型语言模型 （LLM），包含 8B 和 70B 两种参数大小，Llama370BInstruct 是经过指令微调的版本，针对对话用例进行了优化，在常见的行业基准测试中优于许多可用的开源聊天模型。 6192ed0cb6334302a2c32735dbbb6ce3 Qwen1.572BChat 通义千问1.5（Qwen1.5）是阿里云研发的通义千问系列开源模型，是一种基于 Transformer 的纯解码器语言模型，已在大量数据上进行了预训练。该系列包括Base和Chat等多版本、多规模，满足不同的计算需求，这是Qwen1.572BChat版本。 9d140d415f11414aa05c8888e267a896 Qwen1.532BChat Qwen1.532B 是 Qwen1.5 语言模型系列的最新成员，除了模型大小外，其在模型架构上除了GQA几乎无其他差异。GQA能让该模型在模型服务时具有更高的推理效率潜力。这是Qwen1.532BChat版本。 12d5a37bf1ed4bf9b1cb8e446cfa60b3 InternLM2Chat7B InternLM2Chat7B 是书生·浦语大模型系列中开源的 70 亿参数库模型和针对实际场景量身定制的聊天模型。InternLM2相比于初代InternLM，在推理、数学、代码等方面的能力提升尤为显著，综合能力领先于同量级开源模型。 50beebff68b34803bd71d380e49078f5 Qwen27BInstruct Qwen27BInstruct是 Qwen2大型语言模型系列中覆盖70亿参数的指令调优语言模型，支持高达 131,072 个令牌的上下文长度，能够处理大量输入。 0e97efbf3aa042ebbaf0b2d358403b94 QwenVLChat QwenVLChat模型是在阿里云研发的大规模视觉语言模型 QwenVL 系列的基础上，使用对齐机制打造的视觉AI助手，该模型有更优秀的中文指令跟随，支持更灵活的交互方式，包括多图、多轮问答、创作等能力。 e8c39004ff804ca699d47b9254039db8 StableDiffusionV2.1 StableDiffusionV2.1是由 Stability AI 公司推出的基于深度学习的文生图模型，它能够根据文本描述生成详细的图像，同时也可以应用于其他任务，例如图生图，生成简短视频等。 40f9ae16e840417289ad2951f5b2c88f DeepseekV2LiteChat DeepseekV2LiteChat是一款强大的开源专家混合（MoE）语言聊天模型，具有16B参数，2.4B活动参数，使用5.7T令牌从头开始训练，其特点是同时具备经济的训练和高效的推理。 0855b510473e4ec3a029569853f64974 Qwen2.572BInstruct Qwen2.5系列发布了许多基本语言模型和指令调整语言模型，参数范围从0.5到720亿个参数不等。Qwen2.572BInstruct模型是Qwen2.5系列大型语言模型指令调整版本。 d9df728b30a346afb74d2099b6c209aa Gemma29BIT Gemma29BIT是Google最新发布的具有90亿参数的开源大型语言模型的指令调优版本。模型在大量文本数据上进行预训练，并且在性能上相较于前一代有了显著提升。该版本的性能在同类产品中也处于领先地位，超过了Llama38B和其他同规模的开源模型。 4dae2b9727db46b7b86e84e8ae6530a9 Llama3.23BInstruct Meta Llama3.2多语言大型语言模型（LLMs）系列是一系列预训练及指令微调的生成模型，包含1B和3B参数规模。Llama3.2指令微调的纯文本模型专门针对多语言对话应用场景进行了优化，包括代理检索和摘要任务。它们在通用行业基准测试中超越了许多可用的开源和闭源聊天模型。这是Llama3.23BInstruct版本。 f7d0baa95fd2480280214bfe505b0e2e ChatGLM36B32K ChatGLM36B32K模型在ChatGLM36B的基础上进一步强化了对于长文本的理解能力，能够更好的处理最多32K长度的上下文。具体对位置编码进行了更新，并设计了更有针对性的长文本训练方法，在对话阶段使用 32K 的上下文长度训练。 98b6d84f6b15421886d64350f2832782 CodeGemma7BIT CodeGemma是构建在Gemma之上的轻量级开放代码模型的集合。CodeGemma7BIT模型是CodeGemma系列模型之一，是一种文本到文本和文本到代码的解码器模型的指令调整变体，具有70亿参数，可用于代码聊天和指令跟随。 fa8b78d2db034b6798c894e30fba1173 Qwen2.5Math7BInstruct Qwen2.5Math系列是数学专项大语言模型Qwen2Math的升级版。系列包括1.5B、7B、72B三种参数的基础模型和指令微调模型以及数学奖励模型Qwen2.5MathRM72B，Qwen2.5Math7BInstruct的性能与Qwen2Math72BInstruct相当。 ea056b1eedfc479198b49e2ef156e2aa DeepSeekCoderV2LiteInstruct DeepSeekCoderV2LiteInstruct是一款强大的开源专家混合（MoE）语言聊天模型，具有16B参数，2.4B活动参数。该模型基于DeepSeekV2进一步预训练，增加了6T Tokens，可在特定的代码任务中实现与GPT4Turbo相当的性能。 f23651e4a8904ea589a6372e0e860b10

本文向您介绍如何进行Llama2模型文本生成任务。 前提条件 大模型学习机预装了Llama 27bchat模型与stablediffuisonbasev2.1模型，以及配套的开源服务框架textgenerationwebui与stablediffuisonwebui，使您不需单独进行下载模型与配置环境。 云主机开通与如何登录网页页面参见部署文档。 以下将向您介绍如何进行Llama 2模型文本生成任务： 注意 框架默认角色名称为"You", 但主流大模型默认角色名称一般为"User", 可能会导致模型效果显著变差。 修改角色名称的方式有: 1. 在网页Parameters > Chat > User标签下修改Name字段为"User"，此方法刷新页面后就会失效。 2. 修改配置文件/root/textgenerationwebui/modules/shared.py中的'name1': 'User', 并重启llama服务， 此方法永久生效。 1. 大语言模型加载 说明 以下内容基于开源框架textgenerationwebui。 1.1 基础模型加载 大语言模型体积较大，需要占用较多的内存/显存资源，因此在刚启动服务时并未进行加载，需要手动选择模型进行加载。 在页面上切换到Model标签页，左侧下拉菜单展开后会显示所有存放于云主机/root/textgenerationwebui/models目录下的模型。学习机初始预装了Llama27bchat模型(huggingface格式)，您也可随时下载其他大模型并放入models目录下进行加载。 默认Model loader：Transformers能够支持huggingface的主流大模型，在自行加载其他模型时您需要确认模型格式是否匹配。 右下角将出现模型加载样式，直至加载成功。耗时可能较长，期间不要退出页面。 注意 在加载预装的Llama27b模型时，如果您使用的是GPU学习机，模型将默认以fp16半精度进行加载，消耗13.1G显存；如果您使用的是CPU学习机，模型将以fp32单精度进行加载，消耗26G内存。 因此，如果您的机型是内存为32G或显存为16G的型号，则会因为资源不足导致无法直接加载Llama27b模型。 解决办法： (1) 参考 27b模型前先将图像生成服务关停。 (2) GPU学习机能够支持对模型进行量化，降低模型精度的同时缩减模型大小。您可以在Model页下方找到loadin8bit的开关并进行勾选，此时Llama27b模型将消耗7G内存，可以和图像生成服务中的StableDiffusion模型共存。且8bit精度对大语言模型的生成来说影响不会特别大。 注意 由于huggingface.io网站访问受限，Model标签页的Download按钮无法直接下载模型。

态势感知的数据来源。 态势感知（专业版）基于云上威胁数据和云服务采集的威胁数据，通过大数据挖掘和机器学习，分析并呈现威胁态势，并提供防护建议。 一方面采集全网流量数据，以及安全防护设备日志等信息，通过大数据智能AI分析采集的信息，呈现资产的安全状况，并生成相应的威胁告警。 另一方面汇聚企业主机安全（Host Security Service，HSS）、Web应用防火墙（Web Application Firewall，WAF）等安全防护服务上报的告警数据，从中获取必要的安全事件记录，进行大数据挖掘和机器学习，智能AI分析并识别出攻击和入侵，帮助用户了解攻击和入侵过程，并提供相关的防护措施建议。 态势感知（专业版）通过对多方面的安全数据的分析，为安全事件的处置决策提供依据，实时呈现完整的全网攻击态势。

本章节为您介绍数据分类分级的概述。 数据安全分级是一款智能化、流程化、开放化的数据分类分级工具。 产品内置各行业分类分级标准及框架，并以此为依据，结合已有的上万条数据分类分级规则与行业专有数据分类分级Ai模型，帮助您快速有效完成数据分类工作，以支持后续精细化的数据安全风险分析及安全管控。 主要功能 数据资产梳理：产品可通过网络嗅探技术，自动化发现网络环境中存在的数据库系统，以对于数据库资产台账进行校对及补充。 数据资产目录：产品可通过数据库扫描技术，自动化采集数据库基础元数据信息，同时结合后续数据分类分级结果，以库表列的形式，展现完整地数据资产目录，以供用户进行数据资产的查询。 结构化数据分类分级：结构化数据的分类分级是产品核心能力。产品通过流程与算法相结合的方式，以达到做最少的人工操作，实现最好的分类分级结果的目标。用户无须编写复杂的分类分级规则，仅需完成少量数据的分类分级打标工作。 非结构化数据分类分级：产品支持对于非结构化文件进行自动化分类分级扫描，基于关键词的NER识别，准确确定文件所对应分类和级别，同时可查看文件中所包含的常见敏感信息。 分类分级模板管理：产品支持通过页面方式对于分类分级框架及对应规则进行管理，用户可自定义上传分类分级模版，并支持以系统名称、库名、表名、表注释、字段名、字段注释、字段内容等各种维度进行条件组合的方式维护分类分级规则。 分类分级模型训练：产品基于有监督学习模型训练的能力，用户在一定量手动打标的基础上，即可通过模型管理模块，对于该部分数据进行自定义模型训练。通过训练得到的模型，可有效对于剩余未分类分级数据进行预测，从而大幅降低手工打标的工作量。 资产分类分级报告：产品以可视化图表的方式，将数据资产分类分级的各项统计指标进行展示，帮助用户清晰直观地了解数据资产整体分布、分类分级梳理、敏感数据占比、数据分类分布等情况。 数据库账户梳理：产品支持对于数据库账号状态及权限进行梳理评估，并对于账号新增、权限变更删除等情况进行分类展示，有效检测账号的违规授权和恶意提权。 数据库风险检测：产品提供数据库漏洞检查、配置基线检查、弱口令检查等手段进行数据资产安全评估，通过安全现状评估，能有效发现当前数据库系统的安全问题，对数据库的安全状况进行持续化监控，保持数据库的安全健康状态。 资产分类分级大屏：产品提供数据安全分类分级监管大屏展示，内容包含数据源的分类分级情况、漏洞检查、配置基线检查、弱口令等风险评估情况，以统一展示相关工作成果。

态势感知的数据来源。 态势感知基于云上威胁数据和云服务采集的威胁数据，通过大数据挖掘和机器学习，分析并呈现威胁态势，并提供防护建议。 一方面采集全网流量数据，以及安全防护设备日志等信息，通过大数据智能AI分析采集的信息，呈现资产的安全状况，并生成相应的威胁告警。 另一方面汇聚企业主机安全（Host Security Service，HSS）等安全防护服务上报的告警数据，从中获取必要的安全事件记录，进行大数据挖掘和机器学习，智能AI分析并识别出攻击和入侵，帮助用户了解攻击和入侵过程，并提供相关的防护措施建议。 态势感知通过对多方面的安全数据的分析，为安全事件的处置决策提供依据，实时呈现完整的全网攻击态势。

P1型弹性云主机功能如下： 处理器与内存配比为1:8。 处理器：Intel Xeon E52690V4 2.6GHz。 支持NVIDIA Tesla P100 GPU卡，单实例最大支持4张P100显卡，如果需要使用单机8张P100显卡，可以使用物理机。 提供GPU硬件直通能力。 单精度能力9.3 TFLOPS，双精度能力4.7 TFLOPS。 最大网络带宽10Gb/s。 使用16GiB HBM2显存，显存带宽732Gb/s。 使用800GiB的NVMe SSD卡作为本地临时存储。 完整的基础能力 网络自定义，自由划分子网、设置网络访问策略；海量存储，弹性扩容，支持备份与恢复，让数据更加安全；弹性伸缩，快速增加或减少云主机数量。 灵活选择 与普通云主机一样，P1型云主机可以做到分钟级快速发放。用户可以根据业务规模灵活选择规格，后续将逐步支持1:2、1:4、1:8规格云主机的创建。 优秀的超算生态 拥有完善的超算生态环境，用户可以构建灵活弹性、高性能、高性价比的计算平台。大量的HPC应用程序和深度学习框架已经可以运行在P1实例上。 常规支持软件列表 P1型云主机主要用于计算加速场景，例如深度学习训练、推理、科学计算、分子建模、地震分析等场景。应用软件如果使用到GPU的CUDA并行计算能力，可以使用P1型云主机。常用的软件支持列表如下： Tensorflow、Caffe、PyTorch、MXNet等深度学习框架 RedShift for Autodesk 3dsMax、VRay for 3ds Max Agisoft PhotoScan MapD

插件名 描述 版本 analysishanlp 优化过的HanLP中文分词插件 2.19.1.0 flowcontrol 自研流量控制插件，可进行流控管控、限流等 2.19.1.0 opensearchanalisyspinyin 拼音分词插件 2.19.1.0 opensearchanalisysstconvert STConvert插件，支持中文简体和中文繁体相互转换 2.19.1.0 opensearchanalysisik ik中文分词插件，支持自定义词典 2.19.1.0 opensearchasynchronoussearch 异步搜索插件 2.19.1.0 opensearchcrossclusterreplication 跨集群复制插件 2.19.1.0 opensearchgeospatial geospatial插件 2.19.1.0 opensearchindexmanagement 索引管理插件 2.19.1.0 opensearchjobscheduler 任务调度插件 2.19.1.0 opensearchknn 向量检索引擎插件，可支撑图像搜索、语音识别和商品推荐等向量检索场景的需求 2.19.1.0 opensearchnotifications 消息通知插件 2.19.1.0 opensearchnotificationscore 消息通知core插件 2.19.1.0 opensearchsecurity 安全插件 2.19.1.0 opensearchsql sql查询插件 2.19.1.0 prometheusexporter Opensearch的prometheus exporter插件 2.19.1.0 repositoryhdfs Hadoop分布式文件系统HDFS（Hadoop Distributed File System）存储库插件，提供了对HDFS存储库的支持 2.19.1.0 repositorys3 支持将数据存入天翼云对象存储ZOS的插件 2.19.1.0 ingestattachement 支持多格式文件的全文检索插件 2.19.1.0 opensearchreportsscheduler 报告生成插件 2.19.1.0 opensearchalerting 告警管理插件 2.19.1.0 opensearchanomalydetection 基于机器学习的时序数据异常模式识别插件 2.19.1.0 opensearchcustomcodecs 自定义编码器插件，支持zstd压缩算法 2.19.1.0 opensearchflowframework 可视化数据管道编排插件 2.19.1.0 opensearchltr 基于机器学习的搜索相关度排序插件 2.19.1.0 opensearchml 机器学习插件 2.19.1.0 opensearchneuralsearch 基于神经网络的语义检索插件 2.19.1.0 opensearchobservability 全栈监控工具插件 2.19.1.0 opensearchperformanceanalyzer 性能分析插件 2.19.1.0 opensearchskills 提供机器学习agent框架工具 2.19.1.0 opensearchsystemtemplates 系统模板仓库插件 2.19.1.0 analysisicu 提供 ICU（International Components for Unicode） 支持的分词和字符归一化功能，尤其适合多语言处理 2.19.1.0 analysiskuromoji 日语分词器插件 2.19.1.0 analysisnori 韩语分词器插件 2.19.1.0

本章节向您介绍通过企业路由器实现同区域VPC互通的步骤四内容。 操作步骤 步骤1：登录管理控制台，进入企业路由器主页面。 步骤2：通过名称过滤，快速找到待添加连接的企业路由器。 步骤3：您可以通过以下两种操作入口，进入企业路由器的“连接”页签。 在企业路由器右上角区域，单击“管理连接”。 单击企业路由器名称，并选择“连接”页签。 步骤4：在“连接”页签下，单击“添加连接”。弹出“添加连接”对话框。 步骤5：根据界面提示，配置连接的基本信息如下表所示。 参数名称 参数说明 取值样例 名称 “虚拟私有云（VPC）”连接的名称，支持修改。 erattach01 连接类型 1. 连接类型选择“虚拟私有云（VPC）”，不支持修改。 2. 连接类型选择完成后，在下拉列表中选择待接入企业路由器的虚拟私有云，不支持修改。 3. 虚拟私有云选择完成后，在下拉列表中选择待接入企业路由器的子网，不支持修改。 您可以任意选择一个子网，由于同一个虚拟私有云内的所有子网默认互通，因此选择任意一个子网，企业路由器均可以连通整个VPC。 建议您在VPC内单独规划一个连接企业路由器的子网，为了确保子网内预留足够的系统占用IP、企业路由器占用IP，子网的掩码值范围需要小于等于28，比如192.168.25.0/28。 连接类型：虚拟私有云（VPC） 虚拟私有云：vpcdemo01 子网：subnetdemo01 配置连接侧路由 如果您在创建连接时开启“配置连接侧路由”选项，则不用手动在VPC路由表中配置静态路由，系统会在VPC的所有路由表中自动添加指向ER的路由，目的地址固定为10.0.0.0/8，172.16.0.0/12，192.168.0.0/16。 如果VPC路由表中的路由与这三个固定网段冲突，则会添加失败。此时建议您不要开启“配置连接侧路由”选项，并在连接创建完成后，手动添加路由。 不建议在VPC路由表中将ER的路由配置为默认路由网段0.0.0.0/0，如果VPC内的ECS绑定了EIP，会在ECS内增加默认网段的策略路由，并且优先级高于ER路由，此时会导致流量转发至EIP，无法抵达ER。 开启 描述 该连接的描述信息，支持修改。 标签 为连接绑定标签，用来标识资源，支持修改。 “标签键”：test “标签值”：01 步骤6：基本信息设置完成后，单击“确定”。返回连接列表页面。 步骤7：在连接列表页面，查看连接状态。待状态由“创建中”变为“正常”，表示连接创建成功。 步骤8：重复执行步骤47，在企业路由器中添加其他“虚拟私有云（VPC）”连接。 注意 由于本示例创建ER时，开启“默认路由表关联”和“默认路由表传播”，因此添加完“虚拟私有云（VPC）”连接后，系统会自动在ER路由表做如下配置： 将“虚拟私有云（VPC）”连接关联至ER路由表。 在ER路由表中为“虚拟私有云（VPC）”连接创建传播，自动学习VPC网段。

本页主要介绍支持的高性能参数模板中的参数设置情况，以及如何将高性能参数模板应用至实例。 注意 仅II类型资源池支持该功能，具体支持情况以控制台页面展示为准。更多资源池信息，请参见功能概览。 高性能参数模板简介 由于关系数据库MySQL版参数比较多，针对特定场景进行参数适配的学习成本比较高。为了满足客户对数据库性能的需求，关系数据库MySQL版推出了高性能参数模板，您可以将高性能参数模板直接应用于实例，或者基于该模板进一步配置参数模板。 在通常情况下，高性能参数模板能够提升数据库的性能。 高性能参数说明 数据库版本5.7和8.0的相关高性能参数说明如下： binlogcachesize：在事务中，为二进制日志存储SQL语句的缓存容量。该参数必须设置为2的幂次方。高性能参数模板将其默认值设置为较大值以提高性能。 高性能模板参数取值 默认参数值 2097152 32768 innodbflushlogattrxcommit：该参数控制提交操作在严格遵守ACID合规性和高性能之间的平衡，此变量用于控制Redo Log向磁盘刷写的策略。 高性能模板参数取值 默认参数值 2 1 参数值说明如下： 值为1：每次事务提交时，关系数据库MySQL版都会把日志缓存区的数据写入日志文件中，并且刷新到磁盘中。该值为默认参数模板的取值。 值为2：每次事务提交时，关系数据库MySQL版都会把日志缓存区的数据写入日志文件中，但是并不会同时刷新到磁盘上。该模式下，MySQL会每秒执行一次刷新磁盘操作。 说明 当设置为1，该模式是最安全的，但也是最慢的一种方式。在MySQL的服务崩溃或者服务器主机宕机的情况下，日志缓存区只有可能丢失最多一个语句或者一个事务。 当设置为2，该模式速度较快，较取值为0情况下更安全，只有在操作系统崩溃或者系统断电的情况下，上一秒钟所有事务数据才可能丢失。 syncbinlog：该参数控制MySQL服务器将二进制日志同步到磁盘的频率。 高性能模板参数取值 默认参数值 1000 1 参数值说明如下： 值为1：每次binlog写入后，都与磁盘同步、进行落盘。该值为默认参数模板的取值。 值为N：使binlog在每N次binlog日志文件写入后与磁盘同步。N1000为高性能参数模板的取值。 说明 innodbflushlogattrxcommit 和syncbinlog两个参数设置为1的时候，安全性最高，写入性能最差。在MySQL的服务崩溃或者服务器主机宕机的情况下，日志缓存区只有可能丢失最多一个语句或者一个事务。但是会导致频繁的磁盘写入操作，因此该模式也是最慢的一种方式。 当syncbinlogN(N>1 ) ，innodbflushlogattrxcommit2时，在当前模式下关系数据库MySQL版的写操作才能达到最高性能。

为保障实例的稳定及安全，建议您在操作前仔细阅读本文为您介绍的天翼云关系型数据库MySQL实例级别的使用规范。 数据库实例类型选择 主备： 一主一备、一主多备的经典高可用架构。适用于政企、金融、医疗等大中型企业的生产数据库。 备机提高了实例的可靠性，主机与备机同步创建，备机具备数据备份、灾备等功能。 当主节点故障后，会发生主备切换，数据库客户端会发生短暂中断，数据库客户端需要支持重新连接。 单机： 具有较高性价比，与主流的主备实例相比，单机只包含一个节点。 适用于个人学习、测试，及微小型公司的生产环境。 单机无灾备功能，出现故障后无法进行切换。 只读： 单机版只读实例，推荐开启数据库代理功能，并购买冗余的单机版只读实例。当单个只读故障后，数据库代理可以将流量分担到其他只读节点。 天翼云官方推荐两种架构，以供参考： 1. 主实例下包含2个及以下只读实例时，高可用只读作用比较好。 2. 两个以上只读实例，建议开启数据库代理，获得更好的性价比。 说明 更多实例类型信息，请参见实例类型。 数据库实例规格选择 主机类型：目前提供四种主机类型（可能出现部分主机类型售罄，导致主机类型不存在）如下表： 主机类型 类型说明 2系列 提供基本水平的vCPU性能、平衡的计算、内存和网络资源，在主机负载较轻时，可以提供较高的计算能力，在主机负载较重时无法保证实例计算性能的稳定，但是性价比更高。 适用于对成本比较敏感、对性能抖动容忍度较高的场景。 3系列 采用第一代英特尔® 至强® 可扩展处理器 （Sky Lake）， 基于新一代虚拟化平台，使用NUMA(Non Uniform Memory Access Architecture)绑定技术， 配套10GE网卡，搭载全新网络加速引擎以及DPDK(Data Plane Development Kit)快速报文处理机制，提供强劲稳定的计算性能、更高网络带宽和PPS收发包能力。 适用于对计算与网络有一定要求的场景，如小型网站、轻量级研发测试环境、中小型数据库等。 6系列 采用第二代英特尔® 至强® 可扩展处理器 （Cascade Lake）， 基于新一代虚拟化平台，使用NUMA(Non Uniform Memory Access Architecture)绑定技术， 配套25GE网卡，搭载全新网络加速引擎以及DPDK(Data Plane Development Kit)快速报文处理机制，提供强劲稳定的计算性能、更高网络带宽和PPS收发包能力。 适用于对计算与网络有一定要求的场景，如通用数据库及缓存服务器、中重载企业应用等。 7系列 采用第三代英特尔® 至强® 可扩展处理器 （Ice Lake）， 基于新一代虚拟化平台，使用NUMA(Non Uniform Memory Access Architecture)绑定技术， 配套25GE网卡，搭载全新网络加速引擎以及DPDK(Data Plane Development Kit)快速报文处理机制，提供更强劲稳定的计算性能、更高网络带宽和PPS收发包能力。 适用于对计算与网络有更高性能要求的Web应用、电商平台、短视频平台、在线游戏、保险金融等各类中重载企业应用。 规格： 目前提供的CPU内存规格有：1C4G、2C4G、2C8G、2C16G、4C8G、4C16G、4C32G、8C16G、8C32G、8C64G、16C32G、16C64G、16C128G、32C64G（可能出现部分规格售罄，导致部分规格不存在）。

本章节向您介绍VPC对等连接组网迁移实施步骤。 步骤一：创建云服务资源 1. 创建迁移过程中验证ER和VPC通信情况的子网。在每个待迁移的VPC内，各创建一个新的子网。 2. 在迁移验证子网内，创建ECS。在每个待迁移的子网内，各创建一个ECS。 3. 创建1个企业路由器。本示例中，对等连接两端的VPC网段不重叠，因此创建企业路由器时，同时开启“默认路由表关联”和“默认路由表传播”。 注意 如果VPC对等连接两端的VPC网段存在重叠，则不能开启企业路由器的“默认路由表传播”功能。由于该功能是将整个VPC网段学习到ER路由表中用作目的地址，那么VPC网段重叠时，会导致ER路由表内路由冲突。此时，您需要手动在ER路由表中添加指向VPC连接的路由。 步骤二：在企业路由器中添加VPC连接及路由 1. 将3个待迁移的VPC分别接入企业路由器中。添加连接时，不开启“配置连接侧路由”功能，添加“虚拟私有云（VPC）”连接。 2. 检查ER路由表中指向VPC的路由。本示例中，ER开启了“默认路由表关联”和“默认路由表传播功能”功能，那么在ER中添加“虚拟私有云（VPC）”连接时，系统会自动添加ER指向VPC的路由，无需手动添加，只需要检查即可。 说明 开启“配置连接侧路由”功能后，会自动VPC路由表中自动添加指向ER的路由，目的地址固定为10.0.0.0/8，172.16.0.0/12，192.168.0.0/16。迁移时，需要手动在VPC路由表中添加规划的大网段路由，不能使用自动添加的路由。 如果您未开启“默认路由表传播”功能，则需要手动在ER路由表中添加指向VPC的路由。 步骤三：验证VPC和ER之间的网络通信情况 1. 在接入ER的VPC的路由表中，添加指向ER的迁移验证路由。 2. 在弹性云主机的远程登录窗口，执行以下步骤，验证VPC和ER的网络通信情况。 登录ecsA02，验证vpcA与vpcB是否可以通过ER通信。 登录ecsA02，验证vpcA与vpcC是否可以通过ER通信。 登录ecsB02，验证vpcB与vpcC是否可以通过ER通信。 3. 验证完成后，删除迁移验证相关的路由、ECS和子网。 步骤四：在VPC路由表中添加路由 在VPCA、VPCB和VPCC的路由表中，依次添加路由。 1. 添加指向任意VPC对等连接的临时通信路由。此路由确保迁移过程中，删除原有VPC对等连接路由时流量不中断。 在vpcA的路由表中，添加1.1.1.1/32路由。 在vpcB的路由表中，添加1.1.1.2/32路由。 在vpcC的路由表中，添加1.1.1.3/32路由。 2. 添加指向ER的大网段路由。该路由的目的地址即需要覆盖待迁移的所有VPC网段，又不能被其他业务占用。 在vpcA的路由表中，添加172.16.0.0/14路由。 在vpcB的路由表中，添加172.16.0.0/14路由。 在vpcC的路由表中，添加172.16.0.0/14路由。

在6.5.4及之后版本中我们提供Open Distro for Elasticsearch SQL插件允许您使用SQL而不是Elasticsearch查询域特定语言（DSL）编写查询。 如果您已经熟悉SQL并且不想学习DSL查询，那么此功能是一个很好的选择。 基本操作 要使用该功能，需要将请求发送到opendistro/sqlURI。您可以使用请求参数或请求正文（推荐）。 GET from myindex limit 50 POST { "query": "SELECT FROM myindex LIMIT 50" } 您还可以使用curl命令： curl XPOST u username:password k d '{"query": "SELECT FROM kibanasampledataflights LIMIT 10"}' H 'ContentType: application/json' 默认情况下，查询返回JSON，但您也可以选择CSV格式返回数据，需要对format参数进行设置： POST opendistro/sql?formatcsv { "query": "SELECT FROM myindex LIMIT 50" } CSV格式返回数据时，每行对应一个文档，每列对应一个字段。 支持操作 我们支持的SQL操作包括声明、条件、聚合函数、Include和Exclude、常用函数、连接join和展示等操作。 声明statements 声明statements Statement Example Select SELECT FROM myindex Delete DELETE FROM myindex WHERE id1 Where SELECT FROM myindex WHERE ['field']'value' Order by SELECT FROM myindex ORDER BY id asc Group by SELECT FROM myindex GROUP BY range(age, 20,30,39) Limit SELECT FROM myindex LIMIT 50 (default is 200) Union SELECT FROM myindex1 UNION SELECT FROM myindex2 Minus SELECT FROM myindex1 MINUS SELECT FROM myindex2 说明 与任何复杂查询一样，大型UNION和MINUS语句可能会使集群资源紧张甚至崩溃。 条件Conditions 条件Conditions Condition Example Like SELECT FROM myindex WHERE name LIKE 'j%' And SELECT FROM myindex WHERE name LIKE 'j%' AND age > 21 Or SELECT FROM myindex WHERE name LIKE 'j%' OR age > 21 Count distinct SELECT count(distinct age) FROM myindex In SELECT FROM myindex WHERE name IN ('alejandro', 'carolina') Not SELECT FROM myindex WHERE name NOT IN ('jane') Between SELECT FROM myindex WHERE age BETWEEN 20 AND 30 Aliases SELECT avg(age) AS AverageAge FROM myindex Date SELECT FROM myindex WHERE birthday'19901115' Null SELECT FROM myindex WHERE name IS NULL 聚合函数Aggregation 聚合函数Aggregation Aggregation Example avg() SELECT avg(age) FROM myindex count() SELECT count(age) FROM myindex max() SELECT max(age) AS HighestAge FROM myindex min() SELECT min(age) AS LowestAge FROM myindex sum() SELECT sum(age) AS AgeSum FROM myindex Include和Exclude字段 Include和Exclude Pattern Example include() SELECT include('a'), exclude('age') FROM myindex exclude() SELECT exclude('name') FROM myindex 函数Functions 函数Functions Function Example floor SELECT floor(number) AS RoundedDown FROM myindex trim SELECT trim(name) FROM myindex log SELECT log(number) FROM myindex log10 SELECT log10(number) FROM myindex substring SELECT substring(name, 2,5) FROM myindex round SELECT round(number) FROM myindex sqrt SELECT sqrt(number) FROM myindex concatws SELECT concatws(' ', age, height) AS combined FROM myindex / SELECT number / 100 FROM myindex % SELECT number % 100 FROM myindex dateformat SELECT dateformat(date, 'Y') FROM myindex 说明 必须在文档映射中启用fielddata才能使大多数字符串函数正常工作。 连接操作Joins

基本概念 以下为常见的基本概念，可以帮助用户减少学习Kerberos框架所花费的时间，有助于更好的理解Kerberos业务。以HDFS安全认证为例： TGT 票据授权票据（TicketGranting Ticket），由Kerberos服务生成，提供给应用程序与Kerberos服务器建立认证安全会话，该票据的默认有效期为24小时，24小时后该票据自动过期。 TGT申请方式(以HDFS为例)： 1. 通过HDFS提供的接口获取。 / login Kerberos to get TGT, if the cluster is in security mode @throws IOException if login is failed / private void login() throws IOException { // not security mode, just return if (! "kerberos".equalsIgnoreCase(conf.get("hadoop.security.authentication"))) { return; } //security mode System.setProperty("java.security.krb5.conf", PATHTOKRB5CONF); UserGroupInformation.setConfiguration(conf); UserGroupInformation.loginUserFromKeytab(PRNCIPALNAME, PATHTOKEYTAB); } 2. 通过客户端shell命令以kinit方式获取。 ST 服务票据（Server Ticket），由Kerberos服务生成，提供给应用程序与应用服务建立安全会话，该票据一次性有效。 ST的生成在FusionInsight产品中，基于hadooprpc通信，由rpc底层自动向Kerberos服务端提交请求，由Kerberos服务端生成。 认证代码实例讲解 package com.xxx.bigdata.hdfs.examples; import java.io.IOException; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.FileStatus; import org.apache.hadoop.fs.FileSystem; import org.apache.hadoop.fs.Path; import org.apache.hadoop.security.UserGroupInformation; public class KerberosTest { private static String PATHTOHDFSSITEXML KerberosTest.class.getClassLoader().getResource("hdfssite.xml") .getPath(); private static String PATHTOCORESITEXML KerberosTest.class.getClassLoader().getResource("coresite.xml") .getPath(); private static String PATHTOKEYTAB KerberosTest.class.getClassLoader().getResource("user.keytab").getPath(); private static String PATHTOKRB5CONF KerberosTest.class.getClassLoader().getResource("krb5.conf").getPath(); private static String PRNCIPALNAME "develop"; private FileSystem fs; private Configuration conf; / initialize Configuration / private void initConf() { conf new Configuration(); // add configuration files conf.addResource(new Path(PATHTOHDFSSITEXML)); conf.addResource(new Path(PATHTOCORESITEXML)); } / login Kerberos to get TGT, if the cluster is in security mode @throws IOException if login is failed / private void login() throws IOException { // not security mode, just return if (! "kerberos".equalsIgnoreCase(conf.get("hadoop.security.authentication"))) { return; } //security mode System.setProperty("java.security.krb5.conf", PATHTOKRB5CONF); UserGroupInformation.setConfiguration(conf); UserGroupInformation.loginUserFromKeytab(PRNCIPALNAME, PATHTOKEYTAB); } / initialize FileSystem, and get ST from Kerberos @throws IOException / private void initFileSystem() throws IOException { fs FileSystem.get(conf); } / An example to access the HDFS @throws IOException / private void doSth() throws IOException { Path path new Path("/tmp"); FileStatus fStatus fs.getFileStatus(path); System.out.println("Status of " + path + " is " + fStatus); //other thing } public static void main(String[] args) throws Exception { KerberosTest test new KerberosTest(); test.initConf(); test.login(); test.initFileSystem(); test.doSth(); } } 说明 1. Kerberos认证时需要配置Kerberos认证所需要的文件参数，主要包含keytab路径，Kerberos认证的用户名称，Kerberos认证所需要的客户端配置krb5.conf文件。 2. 方法login()为调用hadoop的接口执行Kerberos认证，生成TGT票据。 3. 方法doSth()调用hadoop的接口访问文件系统，此时底层RPC会自动携带TGT去Kerberos认证，生成ST票据。

本节介绍了内容审核相关的应用场景。 互动直播 在直播场景中，数量众多的房间同时直播，人工审核直播内容几乎不可能完成。利用图像审核功能，可以对所有房间内容进行实时监控，识别出可疑房间并进行提前预警，以确保直播内容的安全。 场景优势如下： 在改进的深度学习算法的帮助下，文本内容的审核准确率高。 配备了高性能的GPU和CPU等硬件，审核能力强，响应速度快。 电子商城 通过智能审核商家或用户上传图像，可以高效识别并预警不合规图片，避免涉黄、涉暴类图像的发布，降低人工审核成本和业务违规风险。 场景优势如下： 响应速度快：配备高配GPU和CPU等硬件设备，审核速度快。 论坛类网站 对于用户原创内容（UGC）类网站，不合规图片的识别和处理是其重点工作之一。通过内容审核技术，可以对用户上传的图片进行识别和预警，使客户能够快速定位和处理问题，降低业务违规风险。 场景优势如下： 高准确率：利用改进的深度学习算法，提升了不合规图片识别的准确率。 快响应速度：通过配备高性能GPU和CPU等硬件设备，使审核及时响应，审核速度更快。 电商网站评价检查 电商网站产品评论的审核十分重要，通过智能审核技术，能够智能地识别包含色情、灌水等违规内容的评论，保障良好的用户体验。 场景优势如下： 准确率高：基于改进的深度学习算法，使得违规评论的识别准确率更高。 响应速度快：配置高性能GPU和CPU等硬件设备，审核速度更快，能够保证快速响应，提升审核效率。

网站暴露面广且要求网站内容输出的准确性，网站内容监测基于深度学习模型，对敏感内容检测，输出相关敏感信息和类别，及时同步客户，保障网站稳定安全的运行。

组件名称 组件介绍 适用场景 cubeclusterautoscaler CCSE自研插件，节点水平伸缩组件，提供了调度、弹性优化、成本优化的功能。 全场景支持，适合在线业务、深度学习、大规模成本算力交付等。

本文向您介绍如何修改大模型学习机的登录密码。 本文向您介绍如何修改大模型学习机的登录密码，以下为修改大模型学习机的登录密码的文字教程。 1. 在云主机控制台，选择您购买云主机的地域，点击云主机的操作更多重置密码。 2. 点击“远程登录”按钮。 3. 进入虚机内部，输入 root 回车，在password处输入刚刚修改的密码（密码不可见，请输入完直接回车）。 4. 点击右上角的“粘贴输入”，在输入框中粘贴以下指令，点击“确定发送”，点击虚机屏幕后回车发送指令。 修改文本大模型密码指令： plaintext vim /root/textgenerationwebui/gradioauth.txt 或 修改图像生成大模型密码指令： plaintext vim /root/stablediffusionwebui/gradioauth.txt 进入修改对应大模型登录密码界面。 5. 改user和user后的密码后，按Esc退出编辑模式。再次点击右上角的“粘贴输入”，在输入框中粘贴 :wq 指令，点击“确定发送”，点击虚机屏幕后回车发送指令。返回以下内容表示修改成功。 6. 再次点击右上角的“粘贴输入”，在输入框中依次粘贴输入以下命令，“确认发送”后点击虚机屏幕，回车。使修改的大模型密码登录密码生效。 plaintext cd /root plaintext sh restartllamawebui.sh plaintext sh restartsdwebui.sh 此时密码修改成功，您可以通过使用修改后的密码登录大模型。

登录大模型 1. 登录前准备：选择云主机详情的“弹性IP”页签，复制列表中的弹性IP。 2. 登录文本对话大模型（LLaMA2/LLaMA3） 将刚刚复制到的弹性IP替换到 中，并在浏览器中输入该地址跳转至登录页面。 您可以任选以下两个账号其一进行登录： 注意 建议您登录后尽快修改密码，修改密码方法在文档“修改大模型学习机登录密码”可查看。 账号一： username：user password：$I$CFLvkJ69I 账户二： username：user2 password：C7O0hgW5fxkN 3. 登录AI图片生成大模型（StableDiffusion） 将刚刚复制到的弹性IP替换到 中并在浏览器中输入跳转至登录页面。 您可以任选以下两个账号其一进行登录： 注意 建议您登录后尽快修改密码，修改密码方法在文档“修改大模型学习机登录密码”可查看。 账户一： username：user password：$I$CFLvkJ69I 账户二： username：user2 password：C7O0hgW5fxkN

模型 模型简介 模型ID DoubaoSeed2.0pro DoubaoSeed2.0Pro 是字节跳动推出的最新一代旗舰级通用Agent大模型，隶属于豆包大模型2.0系列，专为应对大规模生产环境下的深度推理与长链路任务执行场景而设计，全面对标GPT 5.2与Gemini 3 Pro。该模型围绕真实世界复杂任务需求进行系统性优化，强化了多模态理解、复杂指令执行与长尾领域知识储备，在数学推理、视觉感知、长上下文处理等多个基准测试中达到业界顶尖水平。其token定价较同级海外模型降低约一个数量级，在保证卓越性能的同时大幅降低部署与使用成本，进一步缩小了与前沿闭源模型的差距，目前已在豆包App、电脑端、网页版及火山引擎API服务同步上线。 d4432662ebed421890bf8fe60e400439 Qwen3Max 千问3系列Max模型，相较preview版本在智能体编程与工具调用方向进行了专项升级。本次发布的正式版模型达到领域SOTA水平，适配场景更加复杂的智能体需求。 3d1c69eb6e1d40f186124b98141e64fd DoubaoSeed1.8 DoubaoSeed1.8是字节跳动自主研发的最新一代旗舰级多模态通用智能体（General Agent）大模型，于2025年12月18日在FORCE原动力大会上正式发布，专为应对真实场景中的复杂工作流、多模态交互及智能体执行任务而设计。该模型突破传统单一语言模型局限，实现从“回答问题”到“执行任务”的质变，融合视觉、语言、推理和行动能力于一体，优化了图片编码token数量与推理效率，在多模态理解、智能体操作、代码编写等领域表现卓越，跻身全球大模型第一梯队，其日均token使用量已突破50万亿，进一步缩小了与前沿闭源模型的差距，成为面向实际应用场景的高效实干型AI助手superscript:3。 87f80d930d3e4c478e50f7a121dfbb97 DoubaoSeed1.60615 DoubaoSeed1.60615是全新多模态深度思考模型，同时支持minimal/low/medium/high 四种reasoning effort。 更强模型效果，服务复杂任务和有挑战场景。 651c9b454b58458f9b604e67c03ab73f Doubao1.5pro32k Doubao1.5pro32k 是字节跳动自主研发的新一代旗舰级大模型，专为长文本处理、多场景适配及高精度任务需求而设计，是豆包1.5系列产品线的核心成员之一。该模型坚持高质量训练路线，在14.8万亿高质量tokens上完成预训练，并通过监督微调和强化学习进一步优化，相较于前代模型实现了知识、代码、推理等核心能力的全面跃升。Doubao1.5pro32k集成了稀疏MoE架构与高效上下文管理技术，坚持不使用任何其他模型生成的数据，凭借极低的幻觉率和优异的综合表现，在多项公开评测基准中达到全球领先水平，显著缩小了与前沿闭源模型（如GPT4 Turbo）的差距，可广泛适配个人、企业及专业领域的多样化需求。 3b4f6505923d48beb3d779a28c704a4e Qwen3CoderPlus Qwen3CoderPlus 是阿里通义千问团队研发的顶级代码专用大模型，在 Qwen3 通用模型基座上进行了大规模的代码专项继续预训练与指令微调。该模型熟练掌握 92 种编程语言，在代码生成、Bug 修复、代码解释及跨语言翻译等任务上表现卓越。Qwen3CoderPlus 引入了“仓库级（Repositorylevel）”代码理解技术，能够处理复杂的项目依赖关系，是程序员、数据科学家及自动化运维人员的理想开发助手。 f9089c3c29b24ac7a0148efad6c0650d Qwen3VLPlus Qwen3VLPlus 是阿里通义千问 Qwen3 家族中的增强型视觉语言模型（VisionLanguage Model），专为处理高难度的图像与视频理解任务而设计。相较于开源版本，Plus 版在视觉感知的清晰度、长视频时序分析及视觉智能体（Visual Agent）交互能力上进行了大幅强化。它采用了先进的“原生动态分辨率”技术，支持任意长宽比的图像输入，能够像人类一样精准识别密集文本、复杂图表及长达数小时的视频内容，是构建多模态应用的理想基座。 b0d79f4a19bb4fa8a71745fff38325a4 Qwen3.5397BA17B Qwen3.5397BA17B 是阿里通义千问团队研发的新一代旗舰级开源多模态 MoE（Mixture of Experts）模型。该模型拥有 3970 亿总参数，但在推理时仅激活 170 亿参数（A17B），实现了极致的性能与效率平衡。Qwen3.5 采用了创新的“门控 DeltaNet + MoE”混合架构，实现了视觉与语言的早期融合训练。它不仅在推理、编码和多语言理解上跨代际超越了前代 Qwen3，更在智能体（Agent）和视觉理解任务上表现卓越，原生支持“思考模式”，具备强大的现实世界适应能力。 06b788a9218d4a5b905e5681c2f4e721 GLM5 GLM5 是智谱 AI 推出的最新一代旗舰级开源大模型，专为应对复杂系统工程和长周期智能体（Agent）任务而设计。该模型坚持扩展（Scaling）路线，参数量从前代的 355B（激活 32B）扩展至 744B（激活 40B），预训练数据量提升至 28.5T tokens。GLM5 集成了 DeepSeek 稀疏注意力（DSA）机制，并引入了全新的异步强化学习基础设施“slime”，在推理、编程和智能体任务上表现卓越，是目前全球开源模型中的佼佼者，进一步缩小了与前沿闭源模型（如 GPT5.2）的差距。 6d3a57c3a6fb465e968b604783b89eda DeepSeekV3.2（正式版） DeepSeekV3.2是深度求索（DeepSeek）开源的最新一代旗舰级通用大模型。该模型是一个在高计算效率与卓越推理和代理性能之间取得平衡的模型。实现了顶尖性能与超高推理效率的完美平衡，该模型在编程、数学、推理及多语言理解等核心任务上展现出卓越能力，是面向开发者与企业的高级智能助手。 64badd7229504be5a44123367666a51f DeepSeekV3.2（体验版） DeepSeekV3.2是深度求索（DeepSeek）开源的最新一代旗舰级通用大模型。该模型是一个在高计算效率与卓越推理和代理性能之间取得平衡的模型。实现了顶尖性能与超高推理效率的完美平衡，该模型在编程、数学、推理及多语言理解等核心任务上展现出卓越能力，是面向开发者与企业的高级智能助手。 2656053fa69c4c2d89c5a691d9d737c3 Qwen3Coder480BA35BInstruct Qwen3Coder480BA35BInstruct是阿里通义千问开源的顶尖代码大模型，采用混合专家（MoE）架构，总参 4800 亿、激活 350 亿参数，实现性能与成本的平衡，能处理仓库级代码与跨文件依赖。 e8ffc9d7e2b34a7487b30d6682207376 Qwen3235BA22BInstruct2507 Qwen3235BA22BInstruct2507是阿里通义千问发布的开源 MoE 架构大模型，总参 2350 亿、激活 220 亿参数，在指令遵循、推理、编码等多领域性能突出，覆盖 100 多种语言与长尾知识。 aab61a64c8504336848e1720bd379ed4 KimiK2Instruct Kimi K2 是一款先进的混合专家（MoE）语言模型，激活参数为 320 亿，总参数为 1 万亿。通过 Muon 优化器进行训练，Kimi K2 在前沿知识、推理和编码任务上表现出色，同时精心优化了代理能力。 38a6a77904264b3dac4644aedb0e5ced Qwen330BA3B Qwen3是Qwen 系列最新一代大型语言模型，提供了一系列密集型和专家混合（MoE）模型。基于广泛的训练，Qwen3 在推理、指令执行、代理能力和多语言支持方面实现了突破性进展 4efd64f3736d41a08f89db919dbe9c6b BGERerankerLarge BGERerankerLarge是北京智源人工智能研究院（BAAI）发布的一款基于深度学习的重排序模型，能够在中英文两种语言环境下，对检索结果进行优化，提高检索的准确性和相关性。与嵌入模型不同，Reranker使用question和document作为输入，直接输出相似度而不是嵌入。 0cb4c1ed8f374eadbe8bffe30bd039dc BaichuanM232B BaichuanM232B是百川 AI 的医疗增强推理模型，是百川发布的第二个医疗模型。该模型专为现实世界的医疗推理任务设计，在 Qwen2.532B的基础上引入了创新的大型验证系统。通过对真实医疗问题的领域特定微调，它在保持强大通用能力的同时实现了突破性的医疗性能。 9488c08cf627421aacdeb44bd9c2f95c DeepSeekV3.1 DeepSeekV3.1是一个支持思考模式和非思考模式的混合模型。是在 DeepSeekV3.1Base 的基础上进行后训练得到的，后者是通过两阶段长上下文扩展方法在原始 V3 基础检查点上构建的，遵循了原始 DeepSeekV3 报告中概述的方法。通过收集额外的长文档并大幅扩展两个训练阶段来扩大的数据集。 37d1d0f4183b4800a44a69abf9102dfa DeepSeekV30324 DeepSeekV30324是DeepSeek团队于2025年3月24日发布的DeepSeekV3语言模型的新版本。是一个专家混合（MoE）语言模型，总参数为6710亿个，每个Token激活了370亿个参数。0324版本开创了一种用于负载均衡的辅助无损策略，并设定了多令牌预测训练目标以提高性能。该模型版本在几个关键方面比其前身DeepSeekV3有了显著改进。 11bd888a35434486bf209066c7dad0ee DeepSeekR10528 DeepSeekR10528是DeepSeek团队推出的最新版模型。模型基于 DeepSeekV30324 训练，参数量达660B。该模型通过利用增加的计算资源并在后训练期间引入算法优化机制，显著提高了其推理和推理能力的深度。该模型在各种基准测试评估中表现出出色的性能，包括数学、编程和一般逻辑。它的整体性能现在接近 O3 和 Gemini 2.5 Pro 等领先机型。 ff3f5c450f3b459cbe5d04a5ea9b2511 DeepSeekR1 DeepSeekR1 是一款具有创新性的大语言模型，由杭州深度求索人工智能基础技术研究有限公司开发。该模型基于 transformer 架构，通过对海量语料数据进行预训练，结合注意力机制，能够理解和生成自然语言。它经过监督微调、人类反馈的强化学习等技术进行对齐，具备语义分析、计算推理、问答对话、篇章生成、代码编写等多种能力。R1 模型在多个 NLP 基准测试中表现出色，具备较强的泛化能力和适应性。 4bd107bff85941239e27b1509eccfe98 DeepSeekV3 DeepSeekV3是DeepSeek团队开发的新一代专家混合（MoE）语言模型，共有671B参数，在14.8万亿个Tokens上进行预训练。该模型采用多头潜在注意力（MLA）和DeepSeekMoE架构，继承了DeepSeekV2模型的优势，并在性能、效率和功能上进行了显著提升。 9dc913a037774fc0b248376905c85da5 DeepSeekR1DistillLlama70B DeepSeekR1DistillLlama70B是基于Llama架构并经过强化学习和蒸馏优化开发的高性能语言模型。该模型融合了DeepSeekR1的先进知识蒸馏技术与Llama70B模型的架构优势。通过知识蒸馏，在保持较小参数规模的同时，具备强大的语言理解和生成能力。 515fdba33cc84aa799bbd44b6e00660d DeepSeekR1DistillQwen32B DeepSeekR1DistillQwen32B是通过知识蒸馏技术从DeepSeekR1模型中提炼出来的小型语言模型。它继承了DeepSeekR1的推理能力，专注于数学和逻辑推理任务，但体积更小，适合资源受限的环境。 b383c1eecf2c4b30b4bcca7f019cf90d Baichuan2Turbo BaichuanTurbo系列模型是百川智能推出的大语言模型，采用搜索增强技术实现大模型与领域知识、全网知识的全面链接。 43ac83747cb34730a00b7cfe590c89ac Qwen272BInstruct Qwen2 是 Qwen 大型语言模型的新系列。Qwen2发布了5个尺寸的预训练和指令微调模型，包括Qwen20.5B、Qwen21.5B、Qwen27B、Qwen257BA14B以及Qwen272B。这是指令调整的 72B Qwen2 模型，使用了大量数据对模型进行了预训练，并使用监督微调和直接偏好优化对模型进行了后训练。 2f05789705a64606a552fc2b30326bba ChatGLM36B ChatGLM36B 是 ChatGLM 系列最新一代的开源模型，在保留了前两代模型对话流畅、部署门槛低等众多优秀特性的基础上，ChatGLM36B 引入了更强大的基础模型、更完整的功能支持、更全面的开源序列几大特性。 7450fa195778420393542c7fa13c6640 TeleChat12B 星辰语义大模型TeleChat是由中电信人工智能科技有限公司研发训练的大语言模型，TeleChat12B模型基座采用3万亿 Tokens中英文高质量语料进行训练。TeleChat12Bbot在模型结构、训练数据、训练方法等方面进行了改进，在通用问答和知识类、代码类、数学类榜单上相比TeleChat7Bbot均有大幅提升。 fdc31b36028043c48b15131885b148ce Llama38BInstruct Meta 开发并发布了 Meta Llama 3 系列大型语言模型 （LLM），包含 8B 和 70B 两种参数大小，Llama38BInstruct 是经过指令微调的版本，针对对话用例进行了优化，在常见的行业基准测试中优于许多可用的开源聊天模型。 bda59c34e4424598bbd5930eba713fbf Llama370BInstruct Meta 开发并发布了 Meta Llama 3 系列大型语言模型 （LLM），包含 8B 和 70B 两种参数大小，Llama370BInstruct 是经过指令微调的版本，针对对话用例进行了优化，在常见的行业基准测试中优于许多可用的开源聊天模型。 6192ed0cb6334302a2c32735dbbb6ce3 QwenVLChat QwenVLChat模型是在阿里云研发的大规模视觉语言模型 QwenVL 系列的基础上，使用对齐机制打造的视觉AI助手，该模型有更优秀的中文指令跟随，支持更灵活的交互方式，包括多图、多轮问答、创作等能力。 e8c39004ff804ca699d47b9254039db8 StableDiffusionV2.1 StableDiffusionV2.1是由 Stability AI 公司推出的基于深度学习的文生图模型，它能够根据文本描述生成详细的图像，同时也可以应用于其他任务，例如图生图，生成简短视频等。 40f9ae16e840417289ad2951f5b2c88f DeepseekV2LiteChat DeepseekV2LiteChat是一款强大的开源专家混合（MoE）语言聊天模型，具有16B参数，2.4B活动参数，使用5.7T令牌从头开始训练，其特点是同时具备经济的训练和高效的推理。 0855b510473e4ec3a029569853f64974 Qwen2.572BInstruct Qwen2.5系列发布了许多基本语言模型和指令调整语言模型，参数范围从0.5到720亿个参数不等。Qwen2.572BInstruct模型是Qwen2.5系列大型语言模型指令调整版本。 d9df728b30a346afb74d2099b6c209aa Gemma29BIT Gemma29BIT是Google最新发布的具有90亿参数的开源大型语言模型的指令调优版本。模型在大量文本数据上进行预训练，并且在性能上相较于前一代有了显著提升。该版本的性能在同类产品中也处于领先地位，超过了Llama38B和其他同规模的开源模型。 4dae2b9727db46b7b86e84e8ae6530a9 Llama3.23BInstruct Meta Llama3.2多语言大型语言模型（LLMs）系列是一系列预训练及指令微调的生成模型，包含1B和3B参数规模。Llama3.2指令微调的纯文本模型专门针对多语言对话应用场景进行了优化，包括代理检索和摘要任务。它们在通用行业基准测试中超越了许多可用的开源和闭源聊天模型。这是Llama3.23BInstruct版本。 f7d0baa95fd2480280214bfe505b0e2e ChatGLM36B32K ChatGLM36B32K模型在ChatGLM36B的基础上进一步强化了对于长文本的理解能力，能够更好的处理最多32K长度的上下文。具体对位置编码进行了更新，并设计了更有针对性的长文本训练方法，在对话阶段使用 32K 的上下文长度训练。 98b6d84f6b15421886d64350f2832782 CodeGemma7BIT CodeGemma是构建在Gemma之上的轻量级开放代码模型的集合。CodeGemma7BIT模型是CodeGemma系列模型之一，是一种文本到文本和文本到代码的解码器模型的指令调整变体，具有70亿参数，可用于代码聊天和指令跟随。 fa8b78d2db034b6798c894e30fba1173 Qwen2.5Math7BInstruct Qwen2.5Math系列是数学专项大语言模型Qwen2Math的升级版。系列包括1.5B、7B、72B三种参数的基础模型和指令微调模型以及数学奖励模型Qwen2.5MathRM72B，Qwen2.5Math7BInstruct的性能与Qwen2Math72BInstruct相当。 ea056b1eedfc479198b49e2ef156e2aa DeepSeekCoderV2LiteInstruct DeepSeekCoderV2LiteInstruct是一款强大的开源专家混合（MoE）语言聊天模型，具有16B参数，2.4B活动参数。该模型基于DeepSeekV2进一步预训练，增加了6T Tokens，可在特定的代码任务中实现与GPT4Turbo相当的性能。 f23651e4a8904ea589a6372e0e860b10 BGEm3 BGEm3是智源发布的通用语义向量模型BGE家族新成员，支持超过100种语言，具备领先的多语言、跨语言检索能力，全面且高质量地支撑“句子”、“段落”、“篇章”、“文档”等不同粒度的输入文本，最大输入长度为8192，并且一站式集成了稠密检索、稀疏检索、多向量检索三种检索功能，在多个评测基准中达到最优水平。 46c1326f63044fbe80443af579466fe3 Qwen27BInstruct Qwen27BInstruct是 Qwen2大型语言模型系列中覆盖70亿参数的指令调优语言模型，支持高达 131,072 个令牌的上下文长度，能够处理大量输入。 0e97efbf3aa042ebbaf0b2d358403b94 Qwen3235BA22B Qwen3235BA22B是Qwen3系列大型语言模型的旗舰模型。拥有2350多亿总参数和220多亿激活参数。在代码、数学、通用能力等基准测试中，与DeepSeekR1、o1、o3mini、Grok3和Gemini2.5Pro等顶级模型相比，表现出极具竞争力的结果。 35af69e0d4af492ca366cf2df03c3172 Qwen332B Qwen3是Qwen系列中最新一代的大型语言模型，提供一整套密集（Dense）模型和混合专家（MoE）模型。Qwen3基于广泛的培训而构建，在推理、指令遵循、代理功能和多语言支持方面取得了突破性的进步。Qwen332B是参数量为32.8B的密集（Dense）模型。 3836b8d2ec5d46fc94cc7891064940aa Qwen314B Qwen3是Qwen系列中最新一代的大型语言模型，提供一整套密集（Dense）模型和混合专家（MoE）模型。Qwen3基于广泛的培训而构建，在推理、指令遵循、代理功能和多语言支持方面取得了突破性的进步。Qwen314B是参数量为14.8B的密集（Dense）模型。 5873b698960f45c8ae36e72566f7f141 Qwen38B Qwen3是Qwen系列中最新一代的大型语言模型，提供一整套密集（Dense）模型和混合专家（MoE）模型。Qwen3基于广泛的培训而构建，在推理、指令遵循、代理功能和多语言支持方面取得了突破性的进步。Qwen38B是参数量为82亿的密集（Dense）模型。 dceefe3233794dd385e3c2ab500dc6c8 Qwen34B Qwen3是Qwen 系列最新一代大型语言模型，提供了一系列密集型和专家混合（MoE）模型。基于广泛的训练，Qwen3 在推理、指令执行、代理能力和多语言支持方面实现了突破性进展 8606056bfe0c49448d92587452d1f2fc QwQ32B QwQ32B是一款拥有 320 亿参数的推理模型，其性能可与具备 6710 亿参数（其中 370 亿被激活）的 DeepSeekR1 媲美。该模型集成了与Agent相关的能力，使其能够在使用工具的同时进行批判性思考，并根据环境反馈调整推理过程。 b9293363bfbf4db2bccb839ff4300d17 Qwen2.5VL72BInstruct Qwen2.5VL72BInstruct模型是阿里云通义千问开源的全新视觉模型，具有720亿参数规模，以满足高性能计算场景的需求。目前共推出3B、7B、32B和72B四个尺寸的版本。这是旗舰版Qwen2.5VL72B的指令微调模型，在13项权威评测中夺得视觉理解冠军，全面超越GPT40与Claude3.5。 88003ac1ca7a4e4e8efa7caee648323b

1.3 产品优势 本产品可以为客户提供一键式的 Milvus 应用部署体验，省去繁琐的部署过程快速赋能人工智能、机器学习、计算机视觉、自然语言处理等领域的应用。 更多产品使用具体方法请下载附件查看。 Milvus使用手册.pdf

组件名称 组件介绍 适用场景 参考文档 autoscaler Kubernetes社区开源组件，节点水平伸缩组件， 提供了独有的调度、弹性优化、成本优化的功能。 全场景支持，适合在线业务、 深度学习、大规模成本算力交付等。

修改已有企业路由器将流量引至云防火墙 1. 已创建VPC边界防火墙，具体操作请参见3.4.2.1 创建VPC边界防火墙。 2. 登录管理控制台。 3. 在左侧导航栏中，单击左上方的，选择“网络> 企业路由器”，进入“企业路由器”页面。 4. 从默认路由表erRT1中删除防火墙VPC(vpccfwer)的关联和传播。 选择“路由表> 关联”，在防火墙VPC行的“操作”列，单击“删除”，在删除确认框中，单击“是”。 选择“传播”，在防火墙VPC行的“操作”列，单击“删除”，在删除确认框中，单击“是”。 5. 创建路由表erRT2。 单击页面左上角“创建路由表”。参数详情见下表。 参数名称 参数说明 取值样例 名称 输入路由表的名称。要求如下： 长度范围为1~64位。 名称由中文、英文字母、数字、下划线（）、中划线（）、点（.）组成。 erRT2 标签 您可以在创建路由表的时候为路由表绑定标签，标签用于标识云资源，可通过标签实现对云资源的分类和搜索。 “标签键”：test “标签值”：01 描述 您可以根据需要在文本框中输入对该路由表的描述信息。 6. 配置路由表erRT2：设置关联和传播功能。 1. 选择路由表erRT2，单击“关联”页签，单击“创建关联”。参数详情见下表。 参数名称 参数说明 取值样例 连接类型 选择连接类型“云防火墙（CFW）”。 云防火墙（CFW） 关联 在连接下拉列表中，选择防火墙VPC的连接。 cfwerauto 2. 创建同一路由表(erRT2)的传播功能。单击“传播”页签，单击“创建传播”。参数详情见下表。 创建传播参数说明1： 参数名称 参数说明 取值样例 连接类型 选择连接类型“虚拟私有云（VPC）”。 虚拟私有云（VPC） 连接 在传播下拉列表中，选择需防护的VPC连接。 vpc1 创建传播参数说明2： 参数名称 参数说明 取值样例 连接类型 选择连接类型“虚拟私有云（VPC）”。 虚拟私有云（VPC） 连接 在传播下拉列表中，选择需防护的VPC连接。 vpc2 说明 传播至少需要添加两条，每增加一个防护的VPC，都需增加一条传播。 例如：选择VPC1的连接vpc1以及VPC2的连接vpc2，需防护VPC3时，增加一条传播，选择连接vpc3。 创建传播后，会自动将连接的路由信息学习到ER路由表中，生成“传播路由”。同一个路由表中，不同传播路由的目的地址可能相同，连接配置不支持修改和删除。 您也可以手动在路由表中配置连接的静态路由，同一个路由表中，静态路由的目的地址不允许重复，连接配置支持修改和删除。 如果路由表中存在多条路由目的地址相同，则优先级：静态路由> 传播路由。 7. 配置默认路由表erRT1： 1. 添加静态路由。选择路由表erRT1，单击“路由”页签，单击“创建路由”，填写信息如下： 目的地址：0.0.0.0/0 连接类型：“云防火墙（CFW）” 下一跳：选择防火墙VPC的连接（cfwerauto） 2. 删除路由表erRT1中的传播。 单击“传播”页签，在“操作”列中，单击“删除”，在删除确认框中，单击“是”。 说明 需删除路由表erRT1中所有传播。 8. （可选）建议您将当前企业路由器的传播路由表改为新创建的路由表（erRT2），后续添加新VPC时，仅需添加连接，无需进行其它操作。 返回或进入“企业路由器”，单击“更多> 修改配置”，选择传播路由表为erRT2。 说明 如需防护其它账号（如账号B）下的VPC，请将当前账号A的企业路由器共享至账号B，共享步骤请参见《企业路由器用户指南 > 创建共享》，共享成功后在账号B中添加连接即可完成配置。

本节介绍Gang scheduling调度。 通过使用 Gang scheduling 能力，可有效解决原生调度器无法支持 AllorNothing 作业调度的问题。 前提条件 已安装智算套件。 背景信息 Gang scheduling 是一种保证一组相关任务同步执行的调度策略，多个任务的作业调度时，要么全部成功，要么全部失败，这种调度场景，称作为Gang scheduling。其中一个经典使用场景是分布式机器学习训练：在大规模机器学习模型的训练中，数据可能被分布到多个节点上，每个节点都需要运行一个模型的副本。这些模型副本需要同时开始训练，以保证参数更新的同步。随着大规模和复杂的工作负载在Kubernetes上的普及，需要对应的调度策略适配这种场景，避免资源浪费和延迟。由于Kubernetes的核心调度器默认不支持 Gang scheduling，使得一些工作负载无法很好地迁移至 Kubernetes。为了适配这种场景，目前的云容器引擎基于调度器框架实现 Gang scheduling 功能，可以在云容器引擎中非常方便使用该能力。 功能介绍 为了实现AllorNothing的特性，首先需要将一组同时调度的Pod通过annotations标识出来，这个标识可称为PodGroup。提交作业的时候调度器可根据工作负载的相关annotations，获取调度的配置并进行调度。只有当集群资源满足该任务最少运行个数时，才会统一调度，否则作业将一直处于Pending状态。 使用方法 下面使用kubeflow的TFJob作为例子展示Gang scheduling的能力。 plaintext apiVersion: "kubeflow.org/v1" kind: TFJob metadata: name: gangexample spec: tfReplicaSpecs: Worker: replicas: 2 restartPolicy: OnFailure template: spec: schedulerName: roc

维度 数据湖 数据仓库 应用场景 可以探索性分析所有类型的数据，包括机器学习、数据发现、特征分析、预测等 通过历史的结构化数据进行数据分析 使用成本 起步成本低，后期成本较高 起步成本高，后期成本较低 数据质量 包含大量原始数据，使用前需要清洗和标准化处理 质量高，可作为事实依据 适用对象 数据科学家、数据开发人员为主 业务分析师为主