通过控制台“AI风险概览”为您呈现推理安全、语料安全、环境安全的风险态势。 操作场景 AI风险概览实时为您呈现大模型合规态势，支持大模型的数据语料风险运营、推理业务风险运营和环境安全风险运营，实时呈现大模型的风险概览，助您识别大模型风险和潜在威胁。 推理安全：基于WAF攻击日志和访问日志，分析呈现大模型接口的调用请求次数、调用请求命中防护策略数、以及命中防护策略数排名前5的推理模型域名和数量、提示词注入的攻击分布、推理模型攻击类型分布等。 语料安全：基于DSC告警日志，分析呈现大模型中的语料风险类别和数量、TOP5语料风险资产分布等。 环境安全：基于态势感知（专业版）基线检查、漏洞管理、告警管理功能，分析呈现当前工作空间的TOP5合规检查风险、TOP5漏洞风险、TOP5告警和最近攻击列表。 前提条件 推理安全 依赖Web应用防火墙 WAF服务，在使用AI风险概览的推理安全功能模块前需要确保Web应用防火墙 WAF服务在有效使用期内，且仅WAF云模式支持。 语料安全 依赖数据安全中心DSC服务，在使用AI风险概览的语料安全功能模块前需要确保大模型数据安全防护在有效使用期内。 已经在态势感知（专业版）控制台接入“WAF攻击日志”，“WAF访问日志”和“DSC告警日志”。接入云服务日志请参见接入日志数据。 仅态势感知（专业版）专业版支持。

失败原因 处理建议 源库的版本不符合要求，大版本号不能低于9.4。 目标库的版本不符合要求，大版本号不能低于9.5。 当前源库的大版本号大于目标库的大版本号。 目前DTS服务支持的源端PostgreSQL版本为9.4/9.5/9.6/10/11/12，支持的目标端PostgreSQL版本为9.5/9.6/10/11/12，请确保源库和目标库的PostgreSQL版本在要求范围内，且目标库版本不小于源库版本。

训推一体场景 使用场景 主要面向对数据保密及安全有着较高要求的企业单位与科研机构，可有力支撑其在私有化环境中，凭借自有数据开展专属行业大模型的训练或者微调工作，尤其适用于政务、医疗、金融等诸多行业领域，充分满足不同行业对于数据安全及大模型定制化应用的需求。 产品优势 拥有丰富多样的训推一体机规格，可依据不同用户的具体业务规模、算力需求等情况，灵活提供适配性强的产品选择。 配备简单易用的训练平台，极大降低了用户的操作门槛，让即使没有深厚技术背景的人员也能便捷地进行大模型的相关训练操作，有效提升工作效率。 模型推理场景 使用场景 精准契合那些无大模型训练诉求，但又需要在私有化环境下部署自有大模型或引入行业大模型，以此为自身应用赋予智能能力的应用场景，广泛覆盖教育平台、数字政务以及医疗应用等关键领域，通过快速调用内置DeepSeek等系列大模型，获取高效的推理服务，为行业应用提供强大的AI支持，提升业务智能化水平。 产品优势 具备推理加速功能以及量化压缩技术，能够大幅提升模型推理的速度与效率，同时优化资源利用，降低对硬件资源的依赖。 支持在本地进行快速部署，可迅速将大模型的推理能力融入到现有业务体系中，减少部署时间成本，快速实现应用赋能与价值创造。

操作步骤 1. 登录智算安全专区控制台。 2. 单击左侧的“大模型安全测评”，系统跳转到“大模型安全测评”页面。

临时表空间过大导致空间不足 原因及现象： 半连接(Semijoin)、去重(distinct)、不走索引的order by等操作，会创建临时表，如果涉及的数据量过多，可能导致临时表空间过大。DDL操作重建表空间时，如果表特别大，创建索引排序时产生的临时文件也会特别大。另外很多online DDL操作是不支持Instant算法而是通过创建新表实现的，DDL执行结束再删除旧表，DDL过程中会同时存在两份表。 解决方案： 可以查看explain执行计划，确认是否包含Using Temporary 。大表DDL需要注意实例的空间是否足够，不足的话请提前扩容磁盘。

本节介绍了DRDS版本升级的操作场景、注意事项、操作步骤等内容。 什么是DRDS系列优选版本？ DRDS内核版本通常由4位数字组成（如3.0.8.x），取前三位数字作为大版本号（如3.0.8）。每个大版本会在版本迭代过程中发布一系列小版本，本系列优选版本是当前大版本下的推荐版本，通常是最新且最稳定的小版本。对于同一大版本下的DRDS实例，将内核版本升级至本系列优选版本属于小版本升级，通常涉及问题修复和优化，语法兼容风险较小，推荐客户将实例升级至本系列优选版本。 什么是DRDS最新版本？ 当前DRDS最新大版本的优选版本。 操作场景 DRDS支持手动升级内核版本，可选择当前系列优选版本和最新版本升级。 系列优选版本：相同大版本下的推荐版本。改动较小，兼容风险较小。 最新版本：最新大版本下的推荐版本。改动涉及新特性、性能优化、问题修复，属于大版本升级，存在兼容性风险，建议升级前做充分的业务测试。 新创建的DRDS实例默认为最新版本。如果华为云有新的内核版本发布时，您可以在“实例管理”页面的“版本”列看到内核版本升级提示，单击“版本升级”弹出升级版本弹窗。 注意事项 升级数据库内核版本会重启DRDS实例，服务可能会出现闪断，请您尽量在业务低峰期执行该操作，或确保您的应用有自动重连机制。 如果实例已经为本系列优选版本，则只可升级至最新版本。 如果当前版本与升级目标版本跨度较大，请务必在测试实例上做好充分的业务兼容性测试后，再进行生产实例的版本升级，确保生产业务稳定不受影响。 版本升级后如有业务不兼容问题，可及时将版本回滚至升级前版本，详细内容请参考版本回滚。

本节介绍智算安全专区的产品优势。 大模型安全卫士 强大的内容过滤能力 具备实时过滤与防御能力，通过敏感词匹配、语义分析和模型推理三道防线，确保生成内容的安全合规。 多语言支持 语言不敏感性，支持多语言、混合语言检测，适应全球化业务需求。 流式检查 支持在 AI 模型流式输出过程中进行内容检测，实时阻断违规内容，保障输出安全。 大模型安全测评 多种服务模式满足客户各种测评需求 目前支持以Qwen、LLaMA、DeepSeek、GLM等为底座的各种推理版、非推理版、蒸馏版的大模型应用进行测评，针对目标大模型应用无论具有标准化openAI接口、非标准化openAI接口、无API接口等多种情况均支持测评。 丰富的测评经验与专业测评能力 重点关注越狱攻击和涉密数据泄漏的等会引发系统性风险的场景。拥有一支由数据科学家、安全专家、行业分析师组成的专业测评团队，具备深厚的技术背景和丰富的测评经验。结合先进的测评工具和方法，通过大模型测评来高效快速的挖掘模型存在的潜在风险，然后再有针对性的进行防护。 先进的理念与优质专业语料的积累 通过来自公开数据集、行业标准数据集和自建数据集等多个来源的数据来形成基础语料库，通过“以模治模”的理念，所有测试用例采用大模型进行自动化构建，通过对大模型对测评用例进行持续优化和迭代，确保测试用例的全面性和准确性，以满足不断变化的需求。

步骤二：登录ECS自建数据库实例 您可以通过数据管理服务登录ECS自建数据库，轻松操作与管理数据库。 前提条件 登录ECS自建数据库实例之前需要先建立数据库实例登录信息，具体操作请参考步骤一：新增数据库实例登录信息。 操作步骤 步骤 1 登录管理控制台。 步骤 2 单击管理控制台左上角的 ，选择区域和项目。 步骤 3 单击页面左上角的 ，选择“数据库 > 数据管理服务 DAS”，进入数据管理服务页面。 步骤 4 在左侧导航栏中，单击“开发工具”，进入开发工具页面。 步骤 5 选择需要登录的目标数据库，单击操作列表中的“登录”。 结束

与自建服务对比 对比项 自建节点 ECX 搭建效率 全国寻找洽谈资源。 分钟级全国算力快速下发。 资金投入 一次性投入大量资金建设。 按需租用，用完即走。 运维复杂度 建设自有运维平台。 批量可视化自动运维。 可靠性 缺乏有效的监测恢复手段。 24小时监控告警服务，专业运维支撑团队。 与传统服务对比 ECX相对传统的IDC服务，将计算、存储、网络能力从中心云经由电信网络下沉至城域网甚至区县，时延可降至毫秒级，可为用户提供属地化云服务。通过云边端协同，将数据处理下沉至边缘，提高数据处理响应的速度，同时提升数据存储、处理的安全性，敏感数据处理只在边缘进行，更适合对低时延、高效率、高安全性有要求的客户，如工业互联、智慧交通、智慧园区等。 与其它服务对比 ECX与其他服务相比，具有覆盖范围广、低时延等优势。 服务 位置及覆盖 提供能力 适用场景 ECX 各地市，全网边缘 提供多元算力，满足多种业务需求，用户通过就近部署业务，有效降低网络时延。 直播、视频、边缘渲染加速、游戏等。 CDN 各地市，全网边缘 提高用户访问网站的响应速度与网站的可用性，解决网络带宽小、用户访问量大、网点分布不均等问题。 内容加速、网站加速、文件下载加速等。 IDC 运营商机房 机房基础风、火、水、电服务。 服务器托管等本地化业务。 弹性云主机 各省中心云 提供传统中心云计算涉及的计算、存储、网络等IaaS功能。 密集算力需求，对于可靠性要求高、时延及本地化相对要求低的场景。 一体机iStack 客户现场机房 预装场景化PaaS能力的软硬一体化服务。 物联网、智能工厂、城市智能化等场景。

模型推理服务为大模型训练、推理、应用提供全栈工具链,包含模型体验、模型定制、模型服务、插件服务等模块。预置丰富的基座大模型和数据集,支持国产化等异构算力,提供算子加速与模型加速,极大提升大模型训练推理效率。

本文向您介绍如何使用大模型学习机模型进行图像生成。 前提条件 大模型学习机预装了Llama 27bchat模型与stablediffuisonbasev2.1模型, 以及配套的开源服务框架textgenerationwebui与stablediffuisonwebui,使您不需单独进行下载模型与配置环境。 云主机开通与如何登录网页页面参见部署文档。 以下将向您介绍如何进行StableDiffusion模型图像生成任务： 一、StableDiffusion模型加载 说明 以下内容基于开源框架stablediffusionwebui。 1. 基础模型加载 页面最上方左侧下拉菜单展开后会显示所有存放于云主机/root/stablediffusionwebui/models/Stablediffusion目录下的模型. 。学习机初始预装了原版v21512emapruned.ckpt,您也可随时下载其他版本的StableDiffusion放入目录下进行加载。v21版模型占用约3G显存。 2. LoRA模型加载 由于基础大模型参数量极多, 训练需要的资源量极大, 因此基于基础大模型进行微调的小模型应运而生。LoRA技术便是其中最主流的一种。 LoRA小模型无法独立使用, 需要在加载完基础大模型后再进行加载, 对基础大模型的能力进行扩展。 学习机内没有预装LoRA小模型, 您可以在网上下载其他基于StableDiffusion的LoRA模型并放到学习机的/root/stablediffusionwebui/models/Lora目录下。 StableDiffusion模型的LoRA模型以提示词(prompt)的形式进行使用, 您可以在下载LoRA模型时进行具体使用方法查阅。 二、StableDiffusion模型使用 1.

基础接入实践：输入输出双重防护 对于大多数大模型应用，推荐采用“输入检测 + 输出检测”的双层防护模式： 关键实现要点： 输入检测与大模型调用是串行的，必须等输入检测通过后再调用大模型。 输出检测可与大模型流式输出并行处理，通过分片机制（seqId + isEnd）实现低延迟检测。 建议为reqId带入业务流水号，方便日志追踪。 自定义词库配置实践 黑名单词库配置建议： 将业务场景中明确禁止出现的词语（如竞品名称、违禁词、内部敏感词）加入黑名单，实现精准快速拦截。 黑名单词库优先级高于 AI 风险检测，命中即拦截，响应更快。 白名单词库配置建议： 将业务中频繁出现但可能被误判的专有名词（如行业术语、产品名称、公司名称）加入白名单，避免误拦截影响用户体验。 白名单应定期审核，避免过度放行带来新的风险。 代答库配置实践 推荐为每个风险类型配置至少3 条不同表述的代答内容，由系统随机选取，使拦截回复更自然： 示例（针对”宣扬暴力”风险类型的代答）： “您好，您的问题涉及敏感内容，我暂时无法回答，感谢理解。” “这个话题超出了我能讨论的范围，我们换个方向聊聊？” “抱歉，您提到的内容我无法提供相关建议，如有其他问题欢迎继续提问。”

云日志服务是天翼云打造的一款云原生日志观测分析平台产品,可为应用的海量日志数据提供大规模、低成本、集中式的平台化服务,具备一站式的日志采集、加工、查询分析、可视化、告警等能力,全面满足应用研发、运维、服务监控与业务分析等应用场景。

云日志服务是天翼云打造的一款云原生日志观测分析平台产品,可为应用的海量日志数据提供大规模、低成本、集中式的平台化服务,具备一站式的日志采集、加工、查询分析、可视化、告警等能力,全面满足应用研发、运维、服务监控与业务分析等应用场景。

在RocketMQ中，队列数直接影响到消费者实例数的上限，同一消费组消费者实例数的上限等于队列数，对于集群消费的情况，需考虑队列数的设置。 在RocketMQ中，队列能分布到不同的Broker上，是RocketMQ分布式的基础。Queue分布在Broker中，则能使用Broker的资源，包括存储、IO等，一般情况下，分布在某个Broker上的Queue比例越大，则占用此Broker的资源越多，Topic中的Queue分布到的Broker数量越多，则性能越好、存储越大。若Broker的所在机器性能不同，可以通过调整Queue数量，达到资源调优的目的，在应用设计时，需要充分利用上述特性。 在Push消费模式中，API会默认为每个队列预拉取消息1000条，若队列数过大、或者单条消息包体过大，则需要考虑设置减少预拉数量，防止预拉消息过大导致内存溢出。

本节介绍了登录他人共享的数据库实例的相关内容。 登录他人共享给我的数据库实例 假如有人给您共享数据库实例后，您可登录被共享数据库实例。 步骤 1 使用子账号登录管理控制台。 步骤 2 单击管理控制台左上角的 ，选择区域和项目。 步骤 3 单击页面左上角的 ，选择“数据库 > 数据管理服务 DAS”，进入数据管理服务页面。 步骤 4 在左侧导航栏中，单击“开发工具”，进入开发工具页面。 步骤 5 选择“他人共享给我的数据库实例连接”页签。 步骤 6 找到他人共享给我的数据库实例信息，单击操作列的“登录”，即可登录被共享数据库实例。 结束

一站式智算服务平台是为大模型训练、推理、应用提供全栈工具链的智算服务平台,包含数据管理、模型开发与训练、模型评估、模型管理、服务部署等模块。内置丰富的基座大模型,支持国产化等异构算力,提供算子加速与模型加速,极大提升大模型训练推理效率。

一站式智算服务平台是为大模型训练、推理、应用提供全栈工具链的智算服务平台,包含数据管理、模型开发与训练、模型评估、模型管理、服务部署等模块。内置丰富的基座大模型,支持国产化等异构算力,提供算子加速与模型加速,极大提升大模型训练推理效率。

准备工作 购买智算安全专区大模型安全卫士实例 准备好被代理的大模型服务 准备好基础大模型 操作流程 编号 操作 相关文档 1 （可选）根据用户需求检查并配置分类和规则 新增规则 分类管理 2 （建议）配置用于模型推理引擎的基础模型 基础模型设置 3 配置或新建策略，按需选择违规分类、检测引擎、及其他检测配置 内容安全策略管理 检测引擎配置说明 4 按需配置模型代理 网关代理

本节介绍分片数目的选择。 分片数目即将逻辑库切割为物理库的数量，在逻辑库时确定后无法更改。通常选择分片数目需要遵循如下原则。 原则1：分片数量尽量少，因为一个查询SQL 跨分片越多，则总体性能越差，虽然要好于所有数据在一个分片的结果。只在必要的时候进行扩容，增加分片数量。分片尽量均匀分布在多个存储节点上。 原则2：能不分片就不分片，800万以内的表，不建议分片，通过合适的索引，读写分离等方式，可以很好的解决性能问题。 原则3：不到800 万但跟大表（超800 万的表）有关联查询的表也要拆分，在此称为大表关联表。大表关联表如何拆：小于100 万的使用全局表；大于100 万小于800 万跟大表使用同样的拆分策略；无法跟大表使用相同规则的，可以考虑分步骤查询，不用关联查询，或者使用全局表。

本章节主要介绍登录共享数据库实例 假设我有一个数据库实例，想让另一个帐号或者同一个主帐号下的子帐号登录这个实例，并且不允许另一个帐号或者子帐号看到数据库列表中的其他数据库实例，也不想让其他用户知道数据库密码，还是可以登录实例。您可以使用共享数据库登录特性。 前提条件 两个帐号或一个帐号下两个子帐号。 已获取子帐号的UID（User ID）。 使用须知 获得共享数据库登录的用户不能新增数据库、新增用户。 被共享数据库中不包括数据追踪与回滚和后台任务特性。 操作步骤 1、使用子帐号登录管理控制台。 2、单击管理控制台右上角的，选择区域和项目。 3、单击页面左上角的，选择“数据库 > 数据管理服务”，进入数据管理服务页面。 4、在左侧导航栏中，单击“开发工具”，进入开发工具页面。 5、选择“他人共享给我的数据库登录”页签。 6、单击“查看我的用户ID”，复制UID。 7、使用主帐号登录管理控制台。 8、单击管理控制台右上角的，选择区域和项目。 9、单击页面左上角的，选择“数据库 > 数据管理服务”，进入数据管理服务页面。 10、在左侧导航栏中，单击“开发工具”，进入开发工具页面。 11、在“由我创建的数据库登录”页面，选择需要共享的数据库，单击共享用户数下面的数字。 12、在“查看共享数据库登录的用户”窗口单击“添加共享”。 13、在“添加共享用户”窗口选择添加方式。 手动录入：输入需要被共享用户的UID，添加多个用户时，用分号隔开。 同步子帐号：选择当前登录主帐号下的其他子帐号。 同步EPS用户：选择企业下的分组，在待选用户中添加需要共享的用户。 14、确认信息无误后，单击“确定”。 15、返回子帐号所在数据管理服务控制台，查看是否添加成功。 16、单击操作列的登录，即可登录被共享数据库。

大模型安全测评 1. 登录天翼云控制中心。 2. 单击页面顶部的区域选择框，选择区域。 3. 在产品服务列表页，选择“安全 > 智算安全专区 > 大模型安全测评”。 4. 在页面右上角，单击“立即购买”。 5. 在产品订购页面，选择大模型安全测评及购买次数。 6. 确认参数配置无误后，阅读《天翼云智算安全专区服务协议》，并勾选“我已阅读，理解并接受《天翼云智算安全专区服务协议》”，单击“立即购买”。 7. 进入“付款”页面，完成付款。 大模型安全护栏 1. 登录天翼云控制中心。 2. 单击页面顶部的区域选择框，选择区域。 3. 在产品服务列表页，选择“安全 > 智算安全专区 > 大模型安全卫士”。 4. 单击“立即开通”。 5. 确认开通信息后，单击“确认”完成购买流程。 开通成功后，您将收到开通成功的通知。 说明 首次使用需确保天翼云账号已完成实名认证（个人或企业均可）。未完成实名认证的账号无法开通计费类产品。

本章节主要介绍数据字典 数据字典是描述数据的信息集合，包含数据库名、数据库字符集、表名、表的大小、表的记录行数、表的字符集、表的字段、表的索引、表的描述、字段的类型、字段的精度、字段的描述等。 您可以在数据管理服务控制台查看目标数据库的数据字典，也可以下载PDF到本地进行查看。 前提条件 数据库中存在表格。 操作步骤 1、登录管理控制台。 2、单击管理控制台右上角的，选择区域和项目。 3、单击页面左上角的，选择“数据库 > 数据管理服务”，进入数据管理服务页面。 4、在左侧导航栏中，单击“开发工具”，进入开发工具页面。 5、选择需要登录的目标数据库实例，单击操作列表中的“登录”，登录目标数据库实例。 6、在首页数据库列表中，单击目标数据库操作栏“数据字典”，进入数据字典文档页面。 7、在数据字典页面中，您可以查看当前数据库下数据字典文档的“文档索引”和当前数据库下所有表格的表结构信息。 8、您可以单击“导出PDF”，下载到本地查看。

接口功能介绍 AI助手大模型接入是为了大模型提供者可以将其成熟大模型接入到AI助手功能，实现用户使用大模型智能问答功能。 接口约束 无 URI 路径参数 无 请求方法 POST 请求参数 请求头参数 无 请求体body参数 参数名 是否必选 参数类型 说明 默认值 model 是 str 模型 messages 是 list 消息列表 stream 否 bool 是否流式返回 false messages字段 参数名 是否必选 参数类型 说明 默认值 role 是 str 聊天角色，user或者assistant content 是 str 消息内容 type 是 str "text":文本， "image"图片， "browserresult" :互联网检索 ref 否 ChatMessageRef 文件（图片）内容，支持多模态的模型可以使用该字段，带上该字段的消息示例格式 { "role":"user", "content":"图里有什么", "ref":{ "type":"image", "image":[{"url":"", "filesize":60994} ] } } ChatMessageRef字段 参数名 是否必选 参数类型 说明 默认值 type 是 str type image 图片 image 是 list 图片列表 Image字段 参数名 是否必选 参数类型 说明 默认值 filedata 是 str 图像base64数据,本字段或url字段，二选一 filesize 是 int 图片大小 filename 是 str 图片名称 encryptpassword 否 str 加密文件密码 url 否 str 图片url

训推用一体 内置端到端大模型“训推用”全链路工具平台，深度融合DeepSeekR1/V3/蒸馏版系列大模型，为用户提供模型训练、推理、应用全套工具，实现大模型从训练到应用的一体化解决方案。 算力多样化 采用先进的硬件架构，集成高性能计算服务器，支持多种AI芯片，如NVIDIA、昇腾等主流品牌，为DeepSeek系列大模型提供强大的算力支持，满足不同用户对算力的多样化需求。 高效能 裸金属直接部署容器运行环境，无虚拟化开销，释放硬件最大效能，提高DeepSeek系列大模型的训练和推理效率，降低能耗和成本。 极简运维 提供7×24小时在线运维服务，一二三线运维服务全覆盖，全面监控实例、任务、资源的使用情况和调度情况，及时发现异常，降低运维难度和成本。

政务办公 场景说明 为实现从数字化向智能化政务的转型升级，须具备面向政企事项的内容生成、文本优化等核心能力，从而全面支撑政务智能化的建设与应用。 方案优势 统一知识库整合资源：根据不同委办局要求在政务云本身租户隔离的基础上，不同部门根据业务需要加载各自个性化知识库，实现公文业务灵活的更新及发展。 翼政通助力办公：智能政务助手应用，采用WPS插件的形式无缝嵌入政务场景办公流，将AI赋能到传统的办公软件，提供智能问答、知识库、公文优化、公文生成等功能，提升政务办公服务效率。 智慧政法 场景说明 政法综治数据量大：数据量庞大，涵盖行政管理、案件审判与执行等不同领域，收集使用周期长。 政法综治数据标准不统一：缺乏统一规范，导致数据格式和定义不一致，整合难度大。 方案优势 国产算力：国产化海光GPU提供强劲算力，天翼云平台提供模型管理能力、智能体管理能力。 智能体应用：通过智能体中心实现和政法内部应用的结合，帮助用户基于开源模型构建智能体应用，实现已有业务和大模型的有效结合，快速实现政务AI应用的构建，如对话客服。 大模型助力高效处理大数据：大模型能力和政法内部应用的结合，实现政法事件分类、信息提取、大数据查询语句生成。

发生消费位点重置的两种情况 当服务端不存在曾经提交过的位点时（比如客户端第一次上线）； 当从非法位点拉取消息时（比如某个分区最大位点是10，但客户端却从11开始拉取消息）。 配置重置策略 Java 客户端可以通过auto.offset.reset来配置重置策略，主要策略有： latest：从最大位点开始消费； earliest：从最小位点开始消费； none：不做任何操作，也即不重置。 策略配置建议 强烈建议设置成“latest”，而不要设置成“earliest”，避免因位点非法时从头开始消费，从而造成大量重复 如果是客户自己管理位点，可以设置成”none”； 拉取大消息。 拉取消息注意事项 消费过程是由客户端主动去服务端拉取消息的，在拉取大消息时，需要注意控制拉取速度，注意修改配置。 max.poll.records：如果单条消息超过1MB，建议这里设置为1； fetch.max.bytes：设置比单条消息的大小略大一点； max.partition.fetch.bytes：设置比单条消息的大小略大一点。拉取大消息的核心是一条一条拉。

本节介绍了通过SQL命令转储与还原升级大版本的相关内容。 操作场景 升级RDS for PostgreSQL引擎大版本，能让您享受到RDS for PostgreSQL新版本带来的功能、性能、安全的提升。但大版本升级可能存在向后不兼容的数据变更，可能导致现有业务运行不兼容。因此需要用户使用目标版本测试确保业务能够正常运行后，再执行大版本升级。 本章节中“源数据库”表示待升级的低版本RDS for PostgreSQL数据库，“目标数据库”表示待升级到的高版本RDS for PostgreSQL数据库。 RDS for PostgreSQL版本号说明 RDS for PostgreSQL v10及其以上版本的版本号由major.minor组成。其中，major表示大版本号，minor表示小版本号。大版本升级是指major部分增加，比如：11.x升级到12.x。 RDS for PostgreSQL v10之前的版本号由major.major.minor组成。其中，major.major表示大版本号，minor表示小版本号。大版本升级是指如major.major部分增加，比如：从9.5.x升级到9.6.x或者从9.x.x升级到10.x。 准备工作 1. 查看待升级的云数据库 RDS for PostgreSQL实例信息。 a. 在“实例管理”页面，单击待升级实例名称，进入待升级实例基本信息页面。 b. 在“基本信息”页面中，可以查看到实例所属区域、可用区、虚拟私有云、子网、安全组。 2. 准备弹性云主机。 通过弹性云主机连接关系型数据库实例，需要创建一台弹性云主机。 该弹性云主机的区域、可用区、虚拟私有云、子网、安全组与待升级RDS for PostgreSQL实例相同。 3. 在2中的弹性云主机上，安装PostgreSQL客户端。 说明 该弹性云主机需要安装和RDS for PostgreSQL数据库服务端相同版本的数据库客户端，PostgreSQL数据库或客户端会自带pgdump、pgrestore和psql工具。 4. 参考通过内网连接RDS for PostgreSQL实例（Linux方式）连接源数据库，在每一个数据库上执行如下sql，获取已使用列表。 select extname from pgextension; 5. 根据查看的已使用列表，选择一个包含当前所有插件的目标升级版本。 RDS for PostgreSQL各版本支持的插件，参考支持的插件列表。 6. 参考创建参数模板，创建一个兼容待升级实例参数的目标版本参数模板。 7. 创建目标版本RDS for PostgreSQL实例。 − 创建RDS for PostgreSQL实例，请参见步骤一：购买实例。 − 目标版本RDS for PostgreSQL实例所属区域、可用区、虚拟私有云、子网、安全组与源实例相同。 8. 在2中的弹性云主机上，参考通过内网连接RDS for PostgreSQL实例（Linux方式），确认目标实例连接正常。

功能 高级版 企业版 互联网边界防火墙 可防护公网IP数 高级版套餐默认包含20个。 可扩展范围：20个~1000个。 企业版套餐默认包含50个。 可扩展范围：50个~1000个。 互联网边界防火墙 公网流量处理能力 高级版套餐餐默认包含10Mbps。 可扩展范围：10Mbps~2000Mbps。 说明 支持定制更大规格，可弹性扩展至100G+，如需防护更大规格的带宽流量，请 企业版套餐默认包含50Mbps。 可扩展范围：50Mbps~2000Mbps。 说明 支持定制更大规格，可弹性扩展至100G+，如需防护更大规格的带宽流量，请 VPC边界防火墙 VPC边界防火墙配额数 × 企业版套餐默认包含2个。 可扩展范围：2个~150个。 VPC边界防火墙 VPC边界流量处理能力 × 企业版套餐默认包含200Mbps。 可扩展范围：200Mbps~5000Mbps。 说明 支持定制更大规格，可弹性扩展至100G+，如需防护更大规格的带宽流量，请 网络访问控制 支持策略数10000 支持策略数10000 入侵防御检测（IPS） ✓ ✓ 日志审计 ✓ ✓ 防病毒（AntiVirus） × ✓

操作步骤 1. 登录智算安全专区控制台。 2. 单击左侧的“大模型安全测评”，系统跳转到“大模型安全测评”页面。

本最佳实践主要描述通过训推智算服务平台进行NLP大模型快速微调。 概述 AI发展正在经历一个拐点的跨越，从“预测推断”走向“内容生成”。新的AIGC形态给传统企业的模型训练和调用都提出新的挑战，需要更大的算力和大参数的算法，通过训练在大型文本语料库上学习到的语言模式生成自然语言文本，可以自动生成各类内容，文本、图像、语音、视频、代码中，能广泛应用于新闻、文案、对话、规划、设计创新，才能让企业在这场新的竞争中占据一席之地。 具体来说，新一代的大模型对模型训练的底座和平台都提出了新的要求，支持多个任务、参数1亿以上基于海量多源数据打造的模型，采用Transformer的架构，并且支持预训练。通过单模型做多种任务、更少的数据标注、更优的模型效果等特点来提升模型训练效率，以实现更优的识别、理解、决策、生成效果和更低成本的开发方案。 训推智算服务平台通过开箱即用的平台化产品，为您解决企业数字化、智能化转型中需要解决的AI建模门槛高、流程复杂、人力成本高等问题，有效为企业降本增效，助力企业转型。 本实践主要介绍少量样本对大语言模型进行微调训练，微调训练是大语言模型训练和应用中最常见的一种方式，用性价比的方式让企业快速训练出一个适合于自己业务的对话模型。通过训推智算服务平台来管理数据、标注指令微调、分布式调优任务、任务监控、模型管理、模型评估等全流程的调优步骤，通过交互式操作即可快速微调出属于业务自己的大语言对话模型。 任务特定性能提升：预训练语言模型通过大规模的无监督训练学习了语言的统计模式和语义表示。然而，它在特定任务上的性能可能不如在大规模无监督数据上表现出的性能。通过在任务特定的有标签数据上进行微调，模型可以进一步学习任务相关的特征和模式，从而提高性能。 领域适应性：预训练语言模型可能在不同领域的数据上表现不一致。通过在特定领域的有标签数据上进行微调，可以使模型更好地适应该领域的特殊术语、结构和语义，提高在该领域任务上的效果。 数据稀缺性：某些任务可能受制于数据的稀缺性，很难获得大规模的标签数据。监督微调可以通过使用有限的标签数据来训练模型，从而在数据有限的情况下取得较好的性能。 防止过拟合：在监督微调过程中，通过使用有标签数据进行有监督训练，可以减少模型在特定任务上的过拟合风险。这是因为监督微调过程中的有标签数据可以提供更具体的任务信号，有助于约束模型的学习，避免过多地拟合预训练过程中的无监督信号。

处理措施 查找大key、热key，方法如下： DCS控制台提供了大Key和热Key的分析功能，你可参考缓存分析减少大key和热key。 通过rediscli的bigkeys和hotkeys参数查找大Key和热Key： Rediscli提供了bigkeys参数，能够使rediscli以遍历的方式分析Redis实例中的所有Key，并返回Key的整体统计信息与每个数据类型中Top1的大Key，bigkeys仅能分析并输入六种数据类型（STRING、LIST、HASH、SET、ZSET、STREAM），命令示例为： rediscli h p a bigkeys 。 自Redis 4.0版本起，rediscli提供了hotkeys参数，可以快速帮您找出业务中的热Key，该命令需要在业务实际运行期间执行，以统计运行期间的热Key。命令示例为： rediscli h p a hotkeys 。热Key的详情可以在结果中的summary部分获取到。 提前发现大key、热key。 参考配置告警配置节点级别的内存利用率 监控指标的告警。 如果某个节点存在大key，这个节点比其他节点内存使用率高很多，会触发告警，便于您发现潜在的大key。 参考配置告警配置节点级别的 入网最大带宽、出网最大带宽 、CPU利用率监控指标的告警。 如果某个节点存在热key，这个节点的带宽占用、CPU利用率都比其他节点高，该节点会容易触发告警，便于您发现潜在热key。 说明 由于Redis 3.0实例不支持热key分析，您可以使用该方式帮助您发现热key。 其他优化建议： string类型控制在10KB以内 ，hash、list、set、zset 元素尽量不超过5000 。 key的命名前缀为业务缩写，禁止包含特殊字符(比如空格、换行、单双引号以及其他转义字符)。 Redis事务功能较弱，不建议过多使用。 短连接性能差，推荐使用带有连接池的客户端。 如果只是用于数据缓存，容忍数据丢失，建议关闭持久化。 如果实例内存使用率通过以上方式仍然很高，请考虑在业务低峰期扩大实例规格。具体操作请参见变更实例规格。