AI 创作平台会员 32.67 元 / 年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 安全隔离版OpenClaw NEW OpenClaw云服务器专属“龙虾“套餐低至1.5折起
  • 聚力AI赋能 天翼云大模型专项 大模型特惠专区·Token Plan 轻享包低至9.9元起
  • 青云志云端助力计划 NEW 一站式科研助手,海外资源安全访问平台,助力青年翼展宏图,平步青云
  • 企业出海解决方案 NEW 助力您的业务扬帆出海,通达全球!
  • 天翼云信创专区 NEW “一云多芯、一云多态”,国产化软件全面适配,国产操作系统及硬件芯片支持丰富
  • 云上钜惠 爆款云主机全场特惠,2核4G只要1.8折起!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

息壤智算

领先开放的智算服务平台,提供算力、平台、数据、模型、应用“五位一体”智算服务体系,构建全流程的AI基础设施能力
星辰TokenHub
  • 模型广场
  • 体验中心
  • 服务接入
星辰MaaS平台
  • 星辰MaaS智能体平台
  • 星辰大模型
大模型
  • glm-5.3-flash
  • GLM-5.2
  • deepseek-v4-pro-0813
  • deepseek-v4-flash-0731-new
  • qwen3.8-flash
AI Store
  • 算力市场
  • 模型市场
  • 应用市场
应用托管
  • 天翼云DramaFlow2.0
  • 应用实例
科研助手
  • 开发机
  • 并行计算
训推服务
  • 模型开发
  • 训练任务
  • 服务部署
智能体引擎
  • 智能体引擎
可信数据空间
  • 可信数据空间
公共算力服务
  • 裸金属
  • 定制裸金属
智算一体机
  • 智算一体机
模型适配专家服务
  • 模型适配专家服务
算力服务商
  • 入驻算力服务商

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入AI Store公有云生态专区智云上海应用生态专区
建站工具
  • 新域名服务
  • SSL证书
  • 翼建站
企业办公
  • 智教云电脑
  • WPS 365 天翼云版
灾备迁移
  • 云管家2.0
  • 翼备份(SaaS版)
  • 琥珀数据压缩归档服务
智慧教育
  • 智擎思政平台(个人版)
  • 智擎研学平台(个人专业版)

定价

协助您快速了解云产品计费模式、价格详情,轻松预估上云成本
价格计算器
  • 动态测算产品价格
定价策略
  • 快速了解计费模式

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
天翼云培训认证
  • 天翼云学堂
天翼信创云专区
  • 信创云专区
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
培训与认证
  • 天翼云学堂
  • 天翼云认证
开源社区
  • 魔乐社区
  • OpenTeleDB

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 服务保障
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家
我要反馈
  • 建议与反馈
  • 用户体验官
信息公告
  • 客户公告

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2026智能云生态大会
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 息壤智算
  • 产品
  • 解决方案
  • 应用商城
  • 定价
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心
      数据集成工具_相关内容
      • 产品优势
        本页为您介绍数据传输服务DTS的产品优势。 不停服 基于天翼云DTS的不停服迁移/同步,是一种实时的在线逻辑处理过程。整个过程中,原始的应用系统在不停止的情况下,可以继续对外提供服务。如果原始数据量较多,可以选择合适的网络带宽,确保源数据快速地迁移至目标库。 针对新旧数据库异构的情况,天翼云DTS在工作时,底层进行了数据对象的转换映射,整个过程对用户来说是完全透明的,降低了用户的使用难度。 高性能 天翼云DTS通过数据合并、并行回放、数据压缩等技术,实现高效的数据传输能力,远高于数据库原生复制。 数据合并:合并算法执行后,单主键只有一条记录,可以减少数据量,同时提高并行回放的效率,例如:insert + update > insert, update + delete > delete。 并行回放:通过并行回放,加速数据入库的速度。 数据压缩:通过压缩数据降低数据传输延时,可适应跨数据中心的窄带宽网络。 稳定可靠 断点续传:当天翼云DTS组件、数据源或者网络发生故障,故障恢复后,支持断点续传,保证数据迁移/同步等DTS任务的继续进行。
        来自:
        帮助文档
        数据传输服务DTS
        产品概述
        产品优势
      • 数据脱敏快速入门
        本章节为您介绍如何快速使用数据脱敏能力。 第一步:新增数据源 1.使用系统管理员账号登录数据脱敏实例。 2.在左侧目标栏选择“数据资产管理 > 数据源/目标”,进入“数据源/目标”管理页面。 3.单击页面左上角的“新增”按钮,在右侧的窗口中数据需要新增数据源的相关信息。 注意 不同的数据源类型会存在不同的参数填写情况。 若您选择的数据源类型为StructFile下的LOCAL/FTP/SFTP,且文件类型为csv/txt/del,则可以在高级属性中填写表头行数:若表头行数为0,将自动填充表头;若行数大于1,则仅保留最后一行作为新表头,此配置可以使数据扫描更加准确。 4.填写完成后,单击窗口左下角的“测试连接”按钮,测试数据源的连通性。 5.连接成功后,若需要再新增目标请单击“保存并新增数据目标”重复上述操作,否则请单击“保存”按钮。 第二步:配置脱敏任务 1.使用系统管理员登录数据脱敏实例。 2.在左侧导航栏选择“脱敏/水印任务 > 结构化任务 ”,进入“结构化任务”页面。 3.单击页面左上角的“新增”按钮,进入“任务新增”界面。 4.填写完成后,单击“下一步”即可完成脱敏规则的基础配置。 第三步:配置脱敏规则 在完成基础配置后,会开始脱敏规则的创建。 配置数据脱敏任务时,您可以选择手动配置所需字段对应的脱敏规则,或者一键选择数据安全专区提供的脱敏模板。 若您希望创建自己的脱敏模板,可单击“管理”按钮,进入对应配置页面配置自定义脱敏模板,单击“保存”后单击“刷新” ,即可在下拉框中选择新创建的自定义模板。如下图所示。
        来自:
        帮助文档
        数据安全专区
        快速入门
        数据脱敏快速入门
      • 扩容节点数据盘
        本章节主要介绍如何扩容MRS集群节点数据盘。 随着业务增长,当集群节点的数据盘存储空间不足时,可以进行数据盘扩容操作。 说明 该功能为受限使用功能,请提交工单申请开通,并联系管理员获取操作指导文档及技术支持。 约束与限制 扩容MRS集群节点数据盘,请在业务空闲期执行本操作。 节点数据盘仅支持扩大容量,不支持缩小容量。 节点数据盘最大扩容至32 TB。 节点磁盘为本地盘时,不支持扩容。 仅支持集群节点创建时默认挂载的数据盘完整扩容云硬盘(EVS)容量、磁盘分区和文件系统。 云硬盘所挂载的云服务器状态必须为“运行中”、云硬盘状态必须为“正在使用中”或“可用”才支持扩容。
        来自:
        帮助文档
        翼MapReduce
        用户指南
        管理集群
        节点管理
        扩容节点数据盘
      • 设置数据存储
        对象存储 1、部署应用组件时,在“组件配置”界面,展开“高级设置 > 部署配置”。 2、选择“数据存储 > 云存储 > 添加云存储。 表 对象存储 参数 说明 :: 云存储类型 选择“对象存储”。 对象存储有标准存储和低频访问存储两个存储类型,主要适用于大数据分析、原生云应用程序数据、静态网站托管、备份/活跃归档等场景。 分配方式 使用已有存储选择已创建的存储。 自动分配存储 选择存储子类型。 对象存储子类型为标准存储、低频访问存储。 添加容器挂载 设置“挂载路径”:输入数据卷挂载到应用上的路径。 3、单击“确定”。 主机路径挂载 表示在应用组件上挂载宿主机上的文件或目录。 1、部署应用组件时,在“组件配置”界面,展开“高级设置 > 部署配置”。 2、选择“数据存储 > 本地磁盘 > 挂载本地磁盘”。 表 主机路径挂载 参数 说明 :: 本地存储类型 选择“主机路径挂载”。 主机路径 输入主机路径,如/etc/hosts。 容器挂载 设置“挂载路径”:输入数据卷挂载到应用上的路径。 3、单击“确定”。 临时路径挂载 适用于临时存储、灾难恢复、共享运行时数据等场景,应用组件实例的删除或者迁移会导致临时路径被删除。 1、部署应用组件时,在“组件配置”界面,展开“高级设置 > 部署配置”。 2、选择“数据存储 > 本地磁盘 > 挂载本地磁盘”。 表 临时路径挂载 参数 说明 :: 本地存储类型 选择“临时路径挂载”。 磁盘介质 若勾选“内存”,可以提高运行速度,但存储容量受内存大小限制。适用于数据量少,读写效率要求高的场景。 若不勾选“内存”,即存储在硬盘上,适用于数据量大,读写效率要求低的场景。 容器挂载 设置“挂载路径”:输入数据卷挂载到应用上的路径。 须知 请不要挂载在系统目录下,如“/”、“/var/run”等,会导致应用异常。建议挂载在空目录下,若目录不为空,请确保目录下无影响应用启动的文件,否则文件会被替换,导致应用启动异常,应用创建失败。 挂载高危目录的情况下 ,建议使用低权限帐号启动,否则可能会造成宿主机高危文件被破坏。 设置“权限”。 只读:只能读应用路径中的数据卷。 读写:可修改应用路径中的数据卷,应用迁移时新写入的数据不会随之迁移,会造成数据丢失。 3、单击“确定”。
        来自:
        帮助文档
        微服务云应用平台
        用户指南
        应用管理
        应用高级设置
        设置数据存储
      • 创建迁移任务
        参数 说明 数据源 目前数据存储所用的源端云厂商,如阿里云、腾讯云、华为云等。 Access key/Secret sccess key 访问源端云厂商数据所用提供的AK/SK。 EndPoint 访问源端数据的EndPoint。 BucketName 待迁移数据的源Bucket名称。
        来自:
        帮助文档
        媒体存储
        控制台指南
        对象存储
        数据迁移
        创建迁移任务
      • 表管理
        名称 功能说明 Where条件 您可通过where查询,快速获取查询信息。 复制行 双击选择行,单击“复制行”,即可复制所选行数据信息。 删除行 双击选择行,单击“删除行”,即可删除所选行数据信息。 复制列 在列下拉框中选择所需复制的列,即可复制列信息。 列设置 您可通过“列设置”筛选出需显示的列信息。 16进制显示Binary类型 列内容以Binary类型显示时,需要勾选此选项,否则显示乱码。 新增 向表内添加数据。 刷新 支持对表数据进行手动更新。 提交编辑 支持对数据进行二次编辑。 单行详情 显示指定数据行详细信息。
        来自:
        帮助文档
        数据管理服务
        用户指南
        分布式关系型数据库DRDS数据库管理(开发工具)
        库管理
        表管理
      • 配置Ranger数据连接
        本章节主要介绍如何配置Ranger数据连接。 本指导旨在指导用户将现有集群的Ranger元数据切换为RDS数据库中存储的元数据。该操作可以使多个MRS集群共用同一份元数据,且元数据不随集群的删除而删除。也能够避免集群迁移时Ranger元数据的迁移。 前置条件 已创建RDS服务MySQL数据库的实例,请参考 管理数据连接章节配置数据连接 中的 创建数据连接。 说明 对于MRS 3.x之前版本,当用户选择的数据连接为“RDS服务MySQL数据库”时,请确保使用的数据库用户为root用户。如果为非root用户,请参考 管理数据连接章节[配置数据连接]( ) 中的 数据连接前置操作,新建用户并为该用户进行赋权。 对于MRS 3.x及之后版本,当用户选择的数据连接为“RDS服务MySQL数据库”时,数据库用户不允许为root用户,请参考 管理数据连接章节[配置数据连接]( )中的 数据连接前置操作,新建用户并为该用户进行赋权。 Ranger元数据外置到Mysql前置操作 该前置操作仅在MRS 3.1.0及之后版本需要执行。 1.登录FusionInsight Manager页面,具体请参见访问FusionInsight Manager(MRS 3.x及之后版本)。选择“集群 > 服务 > 服务名称 ”。 当前MRS 3.1.x集群支持Ranger鉴权的组件为: HDFS、HBase、Hive、Spark、Impala、Storm、Kafka组件。 2.在服务“概览”页面右上角单击“更多 > 停用Ranger鉴权”,如果“停用Ranger鉴权”是灰色,则表示未开启Ranger鉴权无需停用Ranger鉴权,如下图所示。 3.(可选)如需使用已有鉴权策略请执行该步骤在Ranger Web页面导出已有组件的鉴权策略,切换Ranger元数据完成后可重新导入已有的鉴权策略。此处以Hive为例,导出后会生成本地的json格式的策略文件。 a.登录FusionInsight Manager页面。 b.选择“集群 > 服务 > Ranger”,进入Ranger服务概览页面。 c.单击“基本信息”区域中的“RangerAdmin”,进入Ranger WebUI界面。 admin用户在Ranger中的用户类型为“User”,如需查看所有管理页面,可点击右上角用户名后,选择“Log Out”,退出当前用户。 d.使用rangeradmin用户(默认密码为Rangeradmin@123)或者其他具有Ranger管理员权限用户重新登录。 e.单击Hive组件对应行的导出按钮,导出鉴权策略。 详见下图:导出鉴权策略 f.单击“Export”,导出后会生成本地的json格式的策略文件。 详见下图: 导出Hive鉴权策略
        来自:
        帮助文档
        翼MapReduce
        用户指南
        配置集群
        管理数据连接
        配置Ranger数据连接
      • 配置OBS源端参数
        参数类型 参数名 说明 取值样例 基本参数 桶名 待迁移数据所在的桶名。 BUCKET2 基本参数 源目录或文件 “列表文件”选择为“否”时,才有该参数。 待迁移数据的目录或单个文件路径。文件路径支持输入多个文件(最多50个),默认以“l”分隔,也可以自定义文件分隔符。 该参数支持配置为时间宏变量,且一个路径名中可以有多个宏定义变量。使用时间宏变量和定时任务配合,可以实现定期同步新增数据。 FROM/example.csv 基本参数 文件格式 文件格式指CDM以哪种格式解析数据,可选择以下格式: CSV格式:以CSV格式解析源文件,用于迁移文件到数据表的场景。 二进制格式:选择“二进制格式”时不解析文件内容直接传输,不要求文件格式必须为二进制。适用于文件到文件的原样复制。 JSON格式:以JSON格式解析源文件,一般都是用于迁移文件到数据表的场景。 CSV格式 基本参数 列表文件 当“文件格式”选择为“二进制格式”时,才有该参数。 打开列表文件功能时,支持读取OBS桶中文件(如txt文件)的内容作为待迁移文件的列表。该文件中的内容应为待迁移文件的绝对路径(不支持目录),例如直接写为如下内容: /052101/DAY20211110.data /052101/DAY20211111.data 是 基本参数 列表文件源连接 当“列表文件”选择为“是”时,才有该参数。可选择列表文件所在的OBS连接。 OBStestlink 基本参数 列表文件OBS桶 当“列表文件”选择为“是”时,才有该参数。该参数表示列表文件所在的OBS桶名。 01 基本参数 列表文件或目录 当“列表文件”选择为“是”时,才有该参数。该参数表示列表文件所在的OBS桶中的绝对路径或目录。 此处建议选择为文件的绝对路径。当选择为目录时,也支持迁移子目录中的文件,但如果目录下文件量过大,可能会导致集群内存不足。 /0521/Lists.txt 基本参数 JSON类型 当“文件格式”选择为“JSON格式”时,才有该参数。JSON文件中存储的JSON对象的类型,可以选择“JSON对象”或“JSON数组”。 JSON对象 基本参数 记录节点 当“文件格式”选择为“JSON格式”并且“JSON类型”为“JSON对象”时,才有该参数。对该JSON节点下的数据进行解析,如果该节点对应的数据为JSON数组,那么系统会以同一模式从该数组中提取数据。多层嵌套的JSON节点以字符“.”分割。 data.list 高级属性 换行符 文件中的换行符,默认自动识别“n”、“r”或“rn”。当“文件格式”选择为“CSV格式”时,才有该参数。 n 高级属性 字段分隔符 文件中的字段分隔符,使用Tab键作为分隔符请输入“t”。当“文件格式”选择为“CSV格式”时,才有该参数。 , 高级属性 使用包围符 选择“是”时,包围符内的字段分隔符会被视为字符串值的一部分,目前CDM默认的包围符为:"。 否 高级属性 使用正则表达式分隔字段 选择是否使用正则表达式分隔字段,当选择“是”时,“字段分隔符”参数无效。当“文件格式”选择为“CSV格式”时,才有该参数。 是 高级属性 正则表达式 分隔字段的正则表达式。 ^(d. d) (w ) [(. )] ([w.] ) (w. ). 高级属性 首行为标题行 “文件格式”选择“CSV格式”时才有该参数。在迁移CSV文件到表时,CDM默认是全部写入,如果该参数选择“是”,CDM会将CSV文件的第一行数据作为标题行,不写入目的端的表。 否 高级属性 编码类型 文件编码类型,例如:“UTF8”或“GBK”。只有文本文件可以设置编码类型,当“文件格式”选择为“二进制格式”时,该参数值无效。 GBK 高级属性 压缩格式 当“文件格式”为“CSV格式”或“JSON格式”时该参数才显示。选择对应压缩格式的源文件: 无:表示传输所有格式的文件。 GZIP:表示只传输GZIP格式的文件。 ZIP:表示只传输ZIP格式的文件。 TAR.GZ:表示只传输TAR.GZ格式的文件。 无 高级属性 压缩文件后缀 压缩格式非无时,显示该参数。 该参数需要解压缩的文件后缀名。当一批文件中以该值为后缀时,才会执行解压缩操作,否则则保持原样传输。当输入或为空时,所有文件都会被解压。 高级属性 源文件处理方式 作业执行成功后对源端文件的处理方式: 不处理。 重命名:作业执行成功后将源文件重命名,添加用户名和时间戳的后缀。 删除:作业执行成功后将源文件删除。 不处理 高级属性 启动作业标识文件 选择是否开启作业标识文件的功能。当源端路径下存在启动作业的标识文件时才启动作业,否则会挂起等待一段时间,等待时长在下方“等待时间”中配置。 否 高级属性 标识文件名 选择开启作业标识文件的功能时,需要指定启动作业的标识文件名。指定文件后,只有在源端路径下存在该文件的情况下才会运行任务。该文件本身不会被迁移。 ok.txt 高级属性 等待时间 选择开启作业标识文件的功能时,如果源路径下不存在启动作业的标识文件,作业挂机等待的时长,当超时后任务会失败。 等待时间设置为0时,当源端路径下不存在标识文件,任务会立即失败。 单位:秒。 10 高级属性 文件分隔符 “源目录或文件”参数中如果输入的是多个文件路径,CDM使用这里配置的文件分隔符来区分各个文件,默认为 。 高级属性 过滤类型 满足过滤条件的路径或文件会被传输,该参数有“无”、“通配符”和“正则表达式”三种选择。 通配符 高级属性 目录过滤器 “过滤类型”选择“通配符”时,用通配符过滤目录,符合过滤器规则的目录,允许进行迁移。支持配置多个路径,中间使用“,”分隔。 input 高级属性 文件过滤器 “过滤类型”选择“通配符”时,用通配符过滤目录下的文件,符合过滤器规则的文件,允许进行迁移。支持配置多个文件,中间使用“,”分隔。 .csv, .txt 高级属性 时间过滤 选择“是”时,可以根据文件的修改时间,选择性的传输文件。 是 高级属性 起始时间 “过滤类型”选择“时间过滤器”时,可以指定一个时间值,当文件的修改时间大于该时间才会被传输,输入的时间格式需为“yyyyMMdd HH:mm:ss”。 该参数支持配置为时间宏变量,例如${timestamp(dateformat(yyyyMMdd HH:mm:ss,90,DAY))} 表示:只迁移最近90天内的文件。 20190601 00:00:00 高级属性 终止时间 “过滤类型”选择“时间过滤器”时,可以指定一个时间值,当文件的修改时间小于该时间才会被传输,输入的时间格式需为“yyyyMMdd HH:mm:ss”。 该参数支持配置为时间宏变量,例如${timestamp(dateformat(yyyyMMdd HH:mm:ss))} 表示:只迁移修改时间为当前时间以前的文件。 20190701 00:00:00 高级属性 加密方式 如果源端数据是被加密过的,则CDM支持解密后再导出。这里选择是否对源端数据解密,以及选择解密算法: 无:不解密,直接导出。 AES256GCM:使用长度为256byte的AES对称加密算法,目前加密算法只支持AES256GCM(NoPadding)。该参数在目的端为加密,在源端为解密。 AES256GCM 高级属性 忽略不存在原路径/文件 如果将其设为是,那么作业在源路径不存在的情况下也能成功执行。 否 高级属性 数据加密密钥 “加密方式”选择“AES256GCM”时显示该参数,密钥由长度64的十六进制数组成,且必须与加密时配置的“数据加密密钥”一致。如果不一致系统不会报异常,只是解密出来的数据会错误。 DD0AE00DFECD78BF051BCFDA25BD4E320DB0A7AC75A1F3FC3D3C56A457DCDC1B 高级属性 初始化向量 “加密方式”选择“AES256GCM”时显示该参数,初始化向量由长度32的十六进制数组成,且必须与加密时配置的“初始化向量”一致。如果不一致系统不会报异常,只是解密出来的数据会错误。 5C91687BA886EDCD12ACBC3FF19A3C3F 高级属性 MD5文件名后缀 “文件格式”选择“二进制格式”时,该参数才显示。 校验CDM抽取的文件,是否与源文件一致。 .md5
        来自:
        帮助文档
        数据治理中心 DataArts Studio
        用户指南
        数据集成
        管理作业
        配置作业源端参数
        配置OBS源端参数
      • 新建连接
        本章节主要介绍数据治理中心的新建连接功能。 操作场景 用户在创建数据迁移的任务前,需要先创建连接,让CDM集群能够读写数据源。一个迁移任务,需要建立两个连接,源连接和目的连接。不同的迁移方式(表或者文件迁移),哪些数据源支持导出(即作为源连接),哪些数据源支持导入(即作为目的连接),详情请参见支持的数据源。 不同类型的数据源,创建连接时的配置参数也不相同,本章节指导用户根据数据源类型创建对应的连接。 约束限制 当所连接的数据源发生变化(如MRS集群扩容等情况)时,您需要重新编辑并保存该连接。 前提条件 已具备CDM集群。 CDM集群与目标数据源可以正常通信。 1. 如果目标数据源为云下的数据库,则需要通过公网或者专线打通网络。通过公网互通时,需确保CDM集群已绑定EIP、CDM云上安全组出方向放通云下数据源所在的主机、数据源所在的主机可以访问公网且防火墙规则已开放连接端口。 2. 如果目标数据源为云上服务(如DWS、MRS及ECS等),则网络互通需满足如下条件: ①CDM集群与云上服务处于不同区域的情况下,需要通过公网或者专线打通网络。通过公网互通时,需确保CDM集群已绑定EIP,数据源所在的主机可以访问公网且防火墙规则已开放连接端口。 ②CDM集群与云上服务同区域情况下,同虚拟私有云、同子网、同安全组的不同实例默认网络互通;如果同虚拟私有云但是子网或安全组不同,还需配置路由规则及安全组规则,配置路由规则请参见《虚拟私有云》帮助文档中的“添加路由信息”章节,配置安全组规则请参见《虚拟私有云》帮助文档中的“安全组 > 添加安全组规则”章节。 ③此外,您还必须确保该云服务的实例与CDM集群所属的企业项目必须相同,如果不同,需要修改工作空间的企业项目。 已获取待连接数据源的地址、用户名和密码,且该用户拥有数据导入、导出的操作权限。 使用Agent时需用主账户给子账户赋予CDM操作权限。
        来自:
        帮助文档
        数据治理中心 DataArts Studio
        用户指南
        数据集成
        管理连接
        新建连接
      • 数据识别
        本章节为您介绍数据识别相关内容。 数据识别模块包含数据标签和敏感数据两个子模块。主要功能是将 API 响应体解析后 ,根据标签对敏感数据进行识别,并展示识别到的敏感数据。 数据识别 API安全网关系统内置25个敏感数据标签,可识别身份证、手机号、邮箱、银行卡等敏感数据,并且支持用户自定义添加标签和识别规则。 新增标签 1.登录API安全网关。 2.在左侧导航栏选择“数据识别 > 数据标签”,进入数据标签页面,即可查看系统内现有的标签。 说明 列表默认展示标签名称、分类、分级、来源、描述。 来源为“系统内置”的标签不允许删除和编辑识别规则。 3.单击页面左上角的“新增”按钮,即可开始新增标签。 字段 说明 标签名称 自定义标签名称,名称不可重复。 启用状态 默认启用,可禁用;禁用后不识别该标签。 分类 默认未分类,可下拉选择内置分类。 分级 默认未分级,可下拉选择内置分级。 描述 自定义描述说明。 识别规则—正则表达式 填写正则表达式,系统可根据正则表达式识别标签。 4.填写完成后单击“保存”即可完成标签新增。
        来自:
        帮助文档
        数据安全专区
        用户指南
        API安全网关操作指导
        数据识别
      • 恢复HBase元数据
        本章介绍翼MapReduce的恢复HBase元数据功能。 操作场景 为了确保HBase元数据(主要包括tableinfo文件和HFile)安全,防止因HBase的系统表目录或者文件损坏导致HBase服务不可用,或者系统管理员需要对HBase系统表进行重大操作(如升级或迁移等)时,需要对HBase元数据进行备份,从而保证系统在出现异常或未达到预期结果时可以及时进行数据恢复,将对业务的影响降到最低。 系统管理员可以通过FusionInsight Manager创建恢复HBase任务。只支持创建任务手动恢复数据。 须知 只支持进行数据备份时的系统版本与当前系统版本一致时的数据恢复。 当业务正常时需要恢复数据,建议手动备份最新管理数据后,再执行恢复数据操作。否则会丢失从备份时刻到恢复时刻之间的HBase数据。 建议一个恢复任务只恢复一个组件的元数据,避免因停止某个服务或实例影响其他组件的数据恢复。同时恢复多个组件数据,可能导致数据恢复失败。 HBase元数据不能与NameNode元数据同时恢复,会导致数据恢复失败。 对系统的影响 元数据恢复前,需要停止HBase服务,在这期间所有上层应用都会受到影响,无法正常工作。 元数据恢复后,会丢失从备份时刻到恢复时刻之间的数据。 元数据恢复后,需要重新启动HBase的上层应用。 前提条件 如果需要从远端HDFS恢复数据,需要准备备集群。如果主集群部署为安全模式,且主备集群不是由同一个FusionInsight Manager管理,则必须配置系统互信,请参见配置跨Manager集群互信。如果主集群部署为普通模式,则不需要配置互信。 主备集群必须已配置跨集群拷贝,请参见启用集群间拷贝功能。 检查HBase元数据备份文件保存路径。 恢复HBase元数据需要先停止HBase服务。 登录FusionInsight Manager,请参见登录管理系统。
        来自:
        帮助文档
        翼MapReduce
        用户指南
        FusionInsight Manager操作指导(适用于3.x)
        备份恢复管理
        恢复数据
        恢复HBase元数据
      • 删除实例数据
        本节主要介绍如何删除实例数据 Redis管理控制台支持删除实例数据。删除实例数据操作无法撤销,且实例数据被删除后将无法恢复,请谨慎操作。 前提条件 只有当Redis实例处于“运行中”状态,才能执行此操作。 操作步骤 1. 登录 Redis管理控制台。 2. 在管理控制台左上角选择实例所在的区域。 3. 在实例列表页,单击目标实例名称进入实例详情管理。 4. 左侧菜单点击CloudDBA>Redis节点管理,进入Redis节点管理界面。 5. 在Redis节点管理界面,点击上方按钮清空实例数据,可删除实例数据。
        来自:
        帮助文档
        分布式缓存服务Redis版
        用户指南
        实例日常操作
        删除实例数据
      • 态势感知(专业版)的数据来源是什么?
        态势感知的数据来源。 态势感知(专业版)基于云上威胁数据和云服务采集的威胁数据,通过大数据挖掘和机器学习,分析并呈现威胁态势,并提供防护建议。 一方面采集全网流量数据,以及安全防护设备日志等信息,通过大数据智能AI分析采集的信息,呈现资产的安全状况,并生成相应的威胁告警。 另一方面汇聚企业主机安全(Host Security Service,HSS)、Web应用防火墙(Web Application Firewall,WAF)等安全防护服务上报的告警数据,从中获取必要的安全事件记录,进行大数据挖掘和机器学习,智能AI分析并识别出攻击和入侵,帮助用户了解攻击和入侵过程,并提供相关的防护措施建议。 态势感知(专业版)通过对多方面的安全数据的分析,为安全事件的处置决策提供依据,实时呈现完整的全网攻击态势。
        来自:
        帮助文档
        态势感知(专业版)(新版)
        常见问题
        产品咨询
        态势感知(专业版)的数据来源是什么?
      • 数据导入导出
        本章节介绍如何使用ZooKeeper导入和导出数据 概述 ZooKeeper提供通过快照(Snapshot)导入数据,同时支持导出快照(Snapshot)和事务日志(Transaction log)文件。本文介绍如何使用ZooKeeper导入和导出数据。 前提条件 已开通微服务引擎MSE,参考章节:创建ZooKeeper引擎 开通ZooKeeper实例并且状态正常。 操作步骤 1. 登录微服务引擎MSE注册配置中心管理控制台,选择资源池。 2. 在左侧导航栏,选择注册配置中心 > 实例列表。 3. 在实例列表页面,单击目标实例ID、实例名称或者目标行“管理”按钮均可跳转至实例基础信息页面。 4. 在左侧导航栏,选择数据管理> Znode管理 > 数据导入导出。 数据导出 在Znode管理中,点击数据导出按钮,选择导出的数据类型,目前仅支持导出最新的快照文件和最新的3个事务日志文件。导出过程预计需要2到5分钟,导出完毕后可以在下载列表获取文件。 点击下载按钮,即可下载相关文件的压缩包。如果导出失败,请按照报错信息及提示重新操作导出。 数据导入 单击导入后,选中要导入的快照文件进行导入,目前仅支持Snapshot格式的快照文件导入,请注意导入文件格式。考虑容量安全问题,数据导入功能目前限制导入的文件大小为200M。 导入文件会导致集群短暂不可用,原本集群的数据将被重置,集群将重新选主。
        来自:
        帮助文档
        微服务引擎
        用户指南
        注册配置中心
        ZooKeeper
        数据导入导出
      • 新建对账作业
        导出对账作业 系统支持批量导出对账作业,一次最多可导出200个对账作业。 1.选择“数据质量监控 > 对账作业”,选择要导出的对账作业。 2.单击“导出”,弹出“导出对账作业”对话框。 3.单击“导出”,切换到“导出记录”页签。 4.在导出文件列表中,单击最新导出文件对应的“下载”,可将质量作业的Excel表格下载到本地。 导入对账作业 系统支持批量导入对账作业,一次最大可导入1M数据的文件,并且最多200个对账作业。 1.选择“数据质量“监控” > 对账作业”,单击“导入”,弹出“导入对账作业”对话框。 2.在“导入配置”页签,选择模板名称重名策略。 终止:如果对账作业名称有重复,则全部导入失败。 跳过:如果对账作业名称有重复,会忽略后继续导入。 覆盖:如果对账作业名称有重复,会覆盖现有同名作业。 3.单击“上传文件”,选择准备好的数据文件。 说明 可通过如下两种方式填写数据文件: (推荐使用)通过“导出”功能,可将数据直接/或修改后批量导入系统。 通过“下载Excel模板”,将数据填写好,再导入至系统中。 4.分别配置数据连接、集群、目录、主题、的映射资源信息。单击“导入”,将填好的Excel表格模板导入到系统。 数据连接:选择导入后的数据连接类型。 集群:如果数据连接类型是DLI,需要选择对应的队列。 目录:选择导入后的对账作业存储目录。 主题:如果配置了消息通知,需要选择主题。 5.单击“导入记录页签”,可查看对应的导入记录。
        来自:
        帮助文档
        数据治理中心 DataArts Studio
        用户指南
        数据质量
        数据质量监控
        新建对账作业
      • 性能
        指标分类 指标名称 指标说明 磁盘占用率 实例数据磁盘使用量 该指标用于统计测量对象的实例数据磁盘已使用大小,该值为实时值。 (单位:GB) 磁盘占用率 实例数据磁盘总量 该指标用于统计测量对象的实例数据磁盘总大小,该值为实时值。 (单位:GB) 磁盘占用率 实例数据磁盘使用率 该指标用于统计测量对象的实例数据磁盘已使用百分比,该值为实时值。 (单位:%) 负载 死锁次数 该指标用于统计数据库发生事务死锁的次数,取该时间段的增量值。 (单位:次) 负载 80% SQL的响应时间 该指标用于统计数据库80% SQL的响应时间,该值为实时值。 (单位:us) 负载 95% SQL的响应时间 该指标用于统计数据库95% SQL的响应时间,该值为实时值。 (单位:us) 内核资源 buffer命中率 该指标用于统计数据库buffer命中率。 (单位:%)
        来自:
        帮助文档
        数据管理服务
        用户指南
        DBA智能运维
        GaussDB
        性能
      • 将MySQL迁移到Doris
        本页为使用数据传输服务DTS将MySQL数据迁移到Dois的详细介绍,包括数据迁移支持的源库、目标库,支持的迁移对象及SQL,数据库账号权限说明,操作须知,操作步骤等。 支持的源和目标数据库 支持的源和目标数据库,如下表: 源数据库 目标数据库 RDS for MySQL 自建 MySQL 5.6部分版本/5.7/8.0 Doris 2.0以上版本 说明 源库为自建MySQL数据库时,支持的版本为5.6部分版本/5.7/8.0。 支持的迁移对象及SQL 迁移对象 当前DTS支持表级(指定的表对象)。 支持表的结构迁移。 数据迁移仅针对数据源中的用户数据库,而系统库会被自动过滤。例如:MySQL 数据源中的 informationschema、mysql、performanceschema、sys 库不会出现在可迁移列表当中。 若源库为空库(该库下未创建任何表),不支持作为待迁移对象。 增量迁移支持的SQL操作 DML INSERT、UPDATE、DELETE。 DDL 增量迁移的DDL操作仅支持ALTER TABLE下的ADD COLUMN、DROP COLUMN操作,以及TRUNCATE TABLE、DROP TABLE、RENAME TABLE操作。 注意 RENAME TABLE操作可能导致同步数据不一致。例如同步对象只包含某个表,当源端在同步过程中对该表执行重命名时,由于同步任务无法自动追踪表名变更,该表的后续数据将无法同步至目标库。为有效规避此风险,建议在配置数据同步时,将目标表所属的整个数据库作为同步对象进行全库同步。
        来自:
        帮助文档
        数据传输服务DTS
        用户指南
        数据迁移
        入云
        MySQL为源的数据迁移
        将MySQL迁移到Doris
      • 数据脱敏与水印
        进入控制台 方式一: 1. 登录天翼云控制中心。 2. 在控制中心页面顶部选择区域。 3. 在产品服务列表页,选择“安全 > 云等保专区”,进入云等保专区控制台。 4. 在左侧导航栏,选择“数据脱敏与水印”,跳转到数据脱敏与水印控制台。 方式二: 1. 登录天翼云控制中心。 2. 在控制中心页面顶部选择区域。 3. 在产品服务列表页,选择“安全 > 数据安全专区”,进入数据脱敏与水印控制台。 使用数据脱敏与水印 请参见数据脱敏与水印。
        来自:
        帮助文档
        云等保专区
        用户指南
        数据脱敏与水印
      • 分布式存储架构及可扩展性
        相比于传统的集中式数据库,分布式数据被分散存储在多个物理位置(多台服务器或数据中心)上,并将这些分散的存储资源构成一个虚拟的存储设备。这种存储方式不仅实现在线扩容能力,同时也提升了数据的检索能力。而且分布式数据库利用SQL语言进行分布式查询和处理,使其性能和扩展性得到显著提升。 分布式数据存储原理 分布式存储架构通常由三个部分组成:客户端、元数据服务器(协调节点)和数据服务器(数据节点)。其主要流程是:客户端负责发送读写请求,缓存文件元数据和文件数据。元数据服务器(协调节点)管理元数据和处理客户端的请求。数据服务器(数据节点)存放文件数据,保证数据的可用性和完整性。分布式存储主要通过以下几种方式实现: 数据分片‌:在分布式存储系统中,数据被分成多个部分,每个部分存储在不同的数据节点上,以实现数据的分布式存储和管理。这种分片通常使用哈希函数或一致性哈希算法来实现。 主备复制‌:为了提高数据的可靠性和可用性,分布式存储系统通常分为主备节点。每个数据都存储在不同的数据节点上,以确保即使某些节点出现故障,仍然可以从其他节点中恢复数据。 数据一致性‌:确保数据在不同节点之间的一致性是分布式存储系统的关键。为了实现数据同步和管理,分布式存储系统使用数据同步和管理机制,如Paxos算法、Raft算法或ZooKeeper等分布式协调服务。 数据访问‌:在分布式存储系统中,数据可以并行地从多个节点中读取和写入,以提高读写性能和吞吐量。数据访问使用负载均衡机制实现,如分布式哈希表、分布式缓存或分布式文件系统等技术。 通过这种存储方式可实现TeleDB在线扩容能力,在业务无感知的情况下,在线弹性伸缩,提升系统容量和处理能力,以便满足大规模存储应用的需求。
        来自:
        帮助文档
        分布式融合数据库HTAP
        私有云产品
        技术白皮书
        产品核心功能
        分布式存储架构及可扩展性
      • 将SQL Server同步到SQL Server
        前置网络协议与安全环境限制 协议与认证强制要求 :不支持 Windows 身份认证方式,仅支持 SQL Server 身份认证。不支持 TLS 1.0 和 TLS 1.1 协议的同步,必须将源库升级到 TLS 1.2 及以上版本。 TDE透明数据加密 :不支持迁移源数据库中开启了 TDE(透明数据加密)的数据库,若需迁移,必须在配置迁移任务前将其彻底关闭。同时,也不支持列加密。 操作须知 DTS同步过程一般包含四个阶段:预检查阶段、结构同步阶段、全量阶段、增量阶段。为了确保数据同步各个阶段的平顺,在创建同步任务前,请务必阅读以下使用须知。 如同步对象为表级别,则单次同步任务仅支持同步最多3000张表。当超出数量限制,任务会在提交后会请求报错。如果遇到这种情形,建议您拆分待同步的表,分批配置成多个任务,或者配置为整库同步。 目标库关联RDS数据库的字符集必须与源数据库一致。 目标库若已存在行数据,DTS在增量同步过程中源库相同主键的数据将覆盖目标库已存在的数据,因此在同步前需要用户自行判断数据是否需要清除,建议用户在同步前自行清空目标库。 目标实例及关联RDS实例的运行状态必须正常,若关联RDS实例是主备实例,复制状态也必须正常。 目标库关联RDS实例必须有足够的磁盘空间,建议至少为待同步数据量的2.5倍。(全量数据同步会并发执行 INSERT 操作,导致目标数据库的表产生碎片,因此全量同步完成后目标数据库的表存储空间会比源实例的表存储空间大)。 SQL Server的TIMESTAMP类型字段不能显式赋值,只能自动生成,所以目标库库的TIMESTAMP值自动生成,跟源库的字段值存在差异。 增量同步时,CDC机制会在源库的cdc这个schema下产生一些数据库对象,请勿操作,否则影响增量同步。 在任务启动、任务全量同步阶段,不建议对源数据库做删除类型的DDL操作,这样可能会引起任务同步失败。 同步过程中,不允许修改、删除连接源和目标数据库的用户的用户名、密码、权限,或修改源和目标数据库的端口号。 同步过程中,不允许对源库需要同步的表结构进行修改。 选择表级对象同步时,增量同步过程中不建议对表进行重命名操作。 增量同步场景下,不支持源数据库进行恢复操作。 增量同步场景下,不支持无主键表的数据增量同步,因为无主键表的增量同步性能远低于有主键的表,而且不能保证数据的一致性。 如果开启 CDC 的表需要写入的单字段数据长度超过 64KB,由于 CDC 作业默认最大处理长度限制,必须提前在源库执行 exec spconfigure 'max text repl size', 1; 命令进行配置调整,否则会导致同步失败或截断。 CDC 组件默认仅保留 3 天数据,若源库单表日均变更超千万条,建议使用 spcdcchangejob 命令将保留时间调整为 1440 分钟(24小时)或更长。 极端场景下,开启 CDC 的表数量不建议超过 1000 张,否则极易导致任务延迟或运行不稳定。聚集列存储索引表不支持开启 CDC。 待同步的表不仅需要有主键,还需要具备聚集索引且包含主键列;已经开启 CDC 的表不支持进行任何主键相关的变更,增量同步期间不支持重建索引操作,否则会造成数据丢失。 切勿使用 sprename 命令修改对象名称,应直接使用 ALTER 命令,否则会导致任务运行失败。 全量数据同步运行期间,建议将源库的事务处理模式启用 READCOMMITTEDSNAPSHOT(已提交读隔离),防止产生的共享锁影响业务正常写入。 在业务正式切换到目标实例前,务必手动结束该数据同步任务,或者回收 DTS 账号在目标库的写权限。避免任务意外自动恢复后用旧数据覆盖目标端新业务数据。 sys.sysservers视图的srvname字段与SERVERPROPERTY函数返回值保持一致。 若单次同步任务中开启CDC的表数量大于1000,则预检查会失败。 日志备份模式与全量物理备份前提:为保证增量同步正常进行,源库的数据日志必须开启,且备份模式必须设置为 Full。
        来自:
        帮助文档
        数据传输服务DTS
        用户指南
        数据同步
        入云
        将SQL Server同步到SQL Server
      • 查询指定服务器
        名称 类型 描述 path String HBlock数据目录。 storagePool String 数据目录所属存储池(仅集群版支持)。 totalCapacity Long 当前HBlock数据目录对应分区的总容量,单位是bytes。 usedCapacity Long 服务器上HBlock数据目录对应分区的已用容量,单位是bytes。 usedCapacityQuota Long HBlock在该数据目录的已写入量,即已用容量配额。单位是bytes。 capacityQuota Long 数据目录的容量配额。单位是bytes。 0表示禁止写入。不输出,表示没有限制。 managementStatus String 数据目录管理状态: Added:数据目录已添加至系统中。 Removing:数据目录正在移除中。 subStatus.stage String 移除数据目录所处的阶段: Reconfiguration:重置中。 CheckingData:检查数据。在该阶段,会同时显示下列字段的信息totalFD、healthyFD、warningFD、errorFD、safeData、reconstructionWaitData、availFDWaitData、singleCopyLUNData、corruptedData、具体告警信息(availFDWaitWarning、singleCopyLUNWarning或者corruptedWarning)。 Executing:执行移除数据目录 subStatus.totalFD Integer 总的故障域个数。 subStatus.healthyFD Integer 状态为Healthy的故障域个数。 subStatus.warningFD Integer 状态为Warning的故障域个数。 subStatus.errorFD Integer 状态为Error的故障域个数。 subStatus.safeData Double 安全数据百分比,单位是%。 subStatus.reconstructionWaitData Double 需要重建的数据百分比,单位是%。 subStatus.availFDWaitData Double 移除磁盘或者服务器时,数据重建需要的故障域个数不足,因此引发的无法重建的数据百分比。 subStatus.singleCopyLUNData Double 单副本数据百分比,单位是%。 subStatus.corruptedData Double 已经损坏的数据百分比,单位是%。 subStatus.availFDWaitWarning String 告警信息。 根据状态不同,显示的告警信息不同: availFDWaitWarning:移除磁盘或者服务器时,数据重建需要的故障域个数不足。 singleCopyLUNWarning:单副本卷数据所在磁盘或者服务器被移除。 corruptedWarning:故障域异常导致数据损坏。 subStatus.singleCopyLUNWarning String 告警信息。 根据状态不同,显示的告警信息不同: availFDWaitWarning:移除磁盘或者服务器时,数据重建需要的故障域个数不足。 singleCopyLUNWarning:单副本卷数据所在磁盘或者服务器被移除。 corruptedWarning:故障域异常导致数据损坏。 subStatus.corruptedWarning String 告警信息。 根据状态不同,显示的告警信息不同: availFDWaitWarning:移除磁盘或者服务器时,数据重建需要的故障域个数不足。 singleCopyLUNWarning:单副本卷数据所在磁盘或者服务器被移除。 corruptedWarning:故障域异常导致数据损坏。 healthStatus String 数据目录健康状态: Healthy:数据目录处于健康状态,可正常读写,且数据目录所在磁盘使用率未超过阈值(系统默认值为95%)。 Warning:数据目录处于警告状态,可读,但存在以下情况的任意一种:慢盘;数据目录所在磁盘使用率超过阈值(系统默认值为95%);磁盘剩余空间不足1GiB;HBlock对这个目录停写;数据目录配额使用率超过阈值(系统默认值为95%);数据目录配额为0。 Error:数据目录错误状态,无法访问,原因可能是:所在磁盘出现I/O错误导致无法读写,数据目录未正确挂载等。 healthDetail Array of string 数据目录健康状态详情: 如果健康状态为Healthy,此字段为空。 如果健康状态为Warning或Error,显示警告或错误的详细信息。 dsId String 数据目录对应的ds进程(仅集群版支持)。 说明 数据目录加入存储池后才会展示ds进程。
        来自:
        帮助文档
        存储资源盘活系统
        API参考
        服务器管理
        查询指定服务器
      • 标准快照功能概述(白名单开放)
        标准快照容量计算原理 云硬盘的快照总容量以快照链(一块云硬盘中所有快照组成的关系链)为单位进行统计,统计当前云硬盘所有快照的数据块占用的存储空间。云硬盘的单个快照容量不会超过云硬盘容量,但是随着快照的增加,快照链容量可能会大于云硬盘容量。 快照链增加快照容量计算 以下图中的场景为例,假设快照的数据块为固定大小2MiB,那么快照链增加快照后的容量计算如下: 创建快照1时,云硬盘的快照链中仅有快照1,快照链容量 快照1容量 数据块A容量 + 数据块B容量 + 数据块C容量 6MiB 创建快照2时,云硬盘的快照链中有快照1、快照2,快照链容量 快照1容量 + 快照2容量 6MiB + (数据块A1容量 + 数据块B1容量 + 数据块D容量) 12MiB 创建快照3时,云硬盘的快照链中有快照1、快照2、快照3,快照链容量 快照1容量 + 快照2容量 + 快照3容量 6MiB + 6MiB +(数据块A2容量 + 数据块C1容量 + 数据块E容量) 18MiB 快照链删除快照容量计算 删除快照时,会遍历快照元数据文件中的所有数据块信息,如下图所示,遵循以下删除原则: 数据块被下一个快照继承,该数据块不能删除。 数据块没有被下一个快照继承: 继承数据块:如果上一个快照未被删除,那么该继承数据块不能删除;否则可以删除。 修改数据块:可以删除。 新增数据块:可以删除。 以下通过举例说明删除快照后快照链容量计算。 以图65中的场景为例,在14:00删除快照2,在15:00删除快照3,那么快照链删除快照后的容量计算如下: 删除快照前,快照链容量 快照1容量 + 快照2容量 + 快照3容量 18MiB 14:00删除快照2,遍历快照2元数据文件中的所有数据块信息: 数据块A1:没有被快照3继承,且为快照1中的数据块A修改而来(修改数据块),因此数据块A1可以删除。 数据块B1:被快照3继承,数据块B1不能删除。 数据块C:没有被快照3继承,但继承于快照1(继承数据块)且快照1未被删除,因此数据块C不能删除。 数据块D:被快照3继承,因此数据块D不能删除。 删除快照2后,快照链容量 18MiB 数据块A1容量 16MiB 15:00删除快照3,遍历快照3元数据文件中的所有数据块信息: 数据块A2:没有被下一快照继承,且为快照2中的数据块A1修改而来(修改数据块),因此数据块A2可以删除。 数据块B1:没有被下一快照继承,但继承于快照2且快照2已被删除,因此数据块B1可以删除。 数据块C1:没有被下一快照继承,且为快照2中的数据块C修改而来,因此数据块C1可以删除。 数据块D:没有被下一快照继承,但继承于快照2且快照2已被删除,因此数据块D可以删除。 数据块E:没有被下一快照继承,且为快照3新增数据块,因此数据块E可以删除。 删除快照3后,快照链容量 16MiB 数据块A2容量 数据块B1容量 数据块C1容量 数据块D容量 数据块E容量 6MiB
        来自:
        帮助文档
        云硬盘 EVS
        用户指南
        管理快照
        标准快照(白名单开放)
        标准快照功能概述(白名单开放)
      • DSC对可识别和脱敏的数据的字符集是否有要求?
        本章为您介绍DSC对可识别和脱敏的数据的字符集是否有要求? DSC对可识别和脱敏的数据字符集没有任何要求。 DSC可以识别的数据源对象:查看DSC能够识别哪些数据源对象?章节。 DSC支持识别的敏感数据类型:查看DSC支持识别的敏感数据类型?章节。
        来自:
        帮助文档
        数据安全中心
        常见问题
        数据识别和数据脱敏
        DSC对可识别和脱敏的数据的字符集是否有要求?
      • 网盘同步科研文件
        本文介绍科研文件与百度网盘之间的数据同步流程。 操作步骤 1.登录科研助手++管理控制台++。 2.在控制台左侧导航栏中,选择【数据存储】。 3.在【数据存储】弹出的选项中,选择【科研文件管理】,进入科研文件详情页。点击右上角【网盘同步】。 4. 点击左上角【添加】按钮,点击【更新授权】,点击【获取授权码】。 5. 进入百度账号页面,登陆后复制授权码,填写至【更新授权】中,确认无误点击【授权】。 6.授权完成后,点击【浏览文件】,可浏览查看网盘的相关文件集数据信息。 7.勾选数据并点击【确认】,进行下载给本地盘。 8.等待数据同步完成,即可完成百度网盘数据同步。
        来自:
        帮助文档
        科研助手
        用户指南
        数据存储
        科研文件管理
        网盘同步科研文件
      • 是否支持数据持久化?
        本文介绍分布式缓存服务Redis版数据持久化 支持,全部规格都支持RDB+AOF组合持久化策略,提升备份和恢复效率。 Redis 提供两种主要的持久化方式: RDB 持久化: Redis 可以周期性地将数据集快照写入磁盘。这个快照是一个二进制文件,包含了某个时间点上的数据集的副本。RDB 持久化是通过调用 SAVE 或 BGSAVE 命令来触发的,也可以配置自动触发快照的条件。RDB 文件对于备份和灾难恢复非常有用,但可能会导致一些数据丢失,因为数据只在指定的时间点进行持久化。 AOF 持久化: Redis 通过将写命令追加到一个文件(Append Only File,AOF 文件)的方式来记录每个写操作。AOF 持久化可以确保更小的数据丢失,因为每个写操作都会被记录。AOF 文件以文本形式存储,当服务器重新启动时,可以通过重新执行 AOF 文件中的命令来恢复数据。
        来自:
        帮助文档
        分布式缓存服务Redis版
        常见问题
        功能类
        是否支持数据持久化?
      • pg_data_mask_map
        本页介绍天翼云TeleDB数据库元数据pgdatamaskmap的内容。 存储管理和配置数据脱敏策略。 名称 类型 定义 relid Oid 表的OID attnum int16 列号(属性编号) enable bool 是否启用数据掩码 option int32 数据掩码选项(见 DATAMASKKINDVALUE、DATAMASKKINDSTRPREFIX、DATAMASKKINDSTRPOSTFIX) datamask int64 数据掩码值 nspname NameData 模式的名称 tblname NameData 表的名称 maskfunc Oid 用户定义对象类型的数据掩码函数 defaultval text 默认值
        来自:
        帮助文档
        分布式融合数据库HTAP
        私有云产品
        开发手册
        数据字典
        元数据表
        pg_data_mask_map
      • 开发一个DLI Spark作业
        本章节主要介绍DataArts Studio的开发一个DLI Spark作业流程。 在本章节您可以学习到数据开发模块资源管理、作业编辑等功能。 场景说明 用户在使用DLI服务时,大部分时间会使用SQL对数据进行分析处理,有时候处理的逻辑特别复杂,无法通过SQL处理,那么可以通过Spark作业进行分析处理。本章节通过一个例子演示如何在数据开发模块中提交一个Spark作业。 操作流程如下: 1. 创建DLI集群,通过DLI集群的物理资源来运行Spark作业。 2. 获取Spark作业的演示JAR包,并在数据开发模块中关联到此JAR包。 3. 创建数据开发模块作业,通过DLI Spark节点提交Spark作业。 环境准备 已开通对象存储服务OBS,并创建桶,例如“obs://dlfexample”,用于存放Spark作业的JAR包。 已开通数据湖探索服务DLI,并创建Spark集群“sparkcluster”,为Spark作业提供运行所需的物理资源。 获取Spark作业代码 本示例使用的Spark作业代码来自maven库,此Spark作业是计算π的近似值。 1. 获取Spark作业代码JAR包后,将JAR包上传到OBS桶中,存储路径为“obs://dlfexample/sparkexamples2.101.1.1.jar”。 2. 登录DataArts Studio控制台。选择实例,点击“进入控制台”,选择对应工作空间的“数据开发”模块,进入数据开发页面。 选择数据开发 3. 在数据开发主界面的左侧导航栏,选择“配置管理 > 资源管理”。单击“新建资源”,在数据开发模块中创建一个资源关联到步骤1的JAR包,资源名称为“sparkexample”。 创建资源
        来自:
        帮助文档
        数据治理中心 DataArts Studio
        用户指南
        数据开发
        使用教程
        开发一个DLI Spark作业
      • 批量数据变更后手动收集统计信息
        本页介绍天翼云TeleDB数据库在批量数据变更后,手动执行vacuum analyze收集统计信息的方法。 在批量数据变更后,由于autovacuum触发机制原因,或autovacuum任务繁忙原因,统计信息收集可能会一定的延时,此时统计信息是不准确的,会导致相关SQL的执行计划生成不准确,从而导致SQL执行变慢甚至执行卡死问题。 批量数据变更包括:批量导入数据、批量更新数据、批量删除数据、truncate表、truncate表+批量导入数据。 针对此问题,应在批量数据变更后,手动执行vacuum analyze收集统计信息。 在执行vacuum analyze前,可以适当调大maintenanceworkmem来提高效率,例如: set maintenanceworkmem to '8GB'; vacuum analyze 表名; 可能会因为账号权限要求,应用账号没有对该表的vacuum analyze权限,可创建函数解决此问题: create or replace function useranalyze (schemaname text,tablename text) returns int as $$ declare vsql text; begin vsql : 'vacuum analyze ' schemaname '.' tablename; execute vsql; return 1; end; $$ language plpgsql; select useranalyze('public','teledb1');
        来自:
        帮助文档
        分布式融合数据库HTAP
        私有云产品
        SQL开发最佳实践
        运维最佳实践
        批量数据变更后手动收集统计信息
      • 字段标准
        2、属性信息 属性信息部分包括数据类型(必填)和值域(必填)。 数据类型可以通过下拉菜单选择,可选择的数据类型包括数值型、字符型、日期型、日期时间型及布尔型。 数值型 若数据类型为数值型,则需要填写该字段的长度信息,精度信息为选填,值域信息包括自定义、引用参考数据、区间范围及无四种。 其中,自定义值域的方式为手动填写 引用参考数据的方式需点击下拉菜单,在右侧弹窗中选择想要引用的参考数据。支持选择参考数据的分类,支持参考数据的查询两种方式检索参考数据。点击【确认】完成参考数据的引用。 区间范围的方式为手动填写值域区间 若字段标准无值域,则不显示具体值域信息。 字符型 若数据类型为数值型,则需要填写该字段的长度信息,值域信息包括自定义、引用参考数据及无三种。 日期型、日期时间型 若数据类型为日期型和日期时间型,则需要选择该字段的格式,格式包括YYYYMMDD、YYYYMMDD、YYYY/MM/DD、YYYYMM、YYYYMM、YYYY/MM、YYYY、MM、DD几种,值域信息包括自定义、区间范围及无三种。 布尔型 若数据类型为布尔型,则仅需要选择数据类型。
        来自:
        帮助文档
        数据智能中台
        用户指南
        数据中台
        操作手册
        数据治理
        数据标准
        字段标准
      • 上传示例数据和程序
        本章节主要介绍翼MapReduce如何上传示例数据和程序。 用户通过“文件管理”页面可以在分析集群进行文件夹创建、删除,文件导入、导出、删除操作。 背景信息 翼MR集群处理的数据源来源于OBS或HDFS,OBS为客户提供海量、安全、高可靠、低成本的数据存储能力。翼MR可以直接处理OBS中的数据,客户可以基于管理控制台Web界面和OBS客户端对数据进行浏览、管理和使用。 导入数据 翼MR目前只支持将OBS上的数据导入至HDFS中。上传文件速率会随着文件大小的增大而变慢,适合数据量小的场景下使用。 支持导入文件和目录,操作方法如下: 1. 登录翼MR管理控制台。 2. 选择“集群列表 > 现有集群”,选中一集群并单击集群名进入集群信息页面。 3. 单击“文件管理”,进入“文件管理”页面。 4. 选择“HDFS文件列表”。 5. 进入数据存储目录,如“bdapp1”。 “bdapp1”目录仅为示例,可以是界面上的任何目录,也可以通过“新建”创建新的文件夹。 新建文件夹时需要满足以下要求: 文件夹名称小于等于255字符。 不允许为空。 不能包含 : /:?"<>;&,'!{}[]$%+特殊字符。 不能以“.”开头或结尾。 开头和末尾的空格会被忽略。 6. 单击“导入数据”,正确配置HDFS和OBS路径。配置OBS或者HDFS路径时,单击“浏览”并选择文件目录,然后单击“是”。
        来自:
        帮助文档
        翼MapReduce
        快速入门
        上传示例数据和程序
      • 数据同步类
        MySQL双向实时同步时,若源库和目标库同时变更同一个表的同一条数据,会怎么样? 数据库双写问题是业界难题,DTS的双向同步无法完全解决数据双写引发的数据冲突问题。在使用双向同步时,您需要在业务层面配合进行相应的改造,保证同一个主键或唯一键的记录只在双向同步的某个节点进行更新。 若短时间内业务对源库、目标库中同一条记录发生变更,DTS采用以下策略来保证数据的最终一致性: TaskFailed(遇到冲突,任务报错退出)。 当数据同步遇到冲突时,同步任务直接报错并退出,同步任务进入失败状态,需要您介入修复任务。 Ignore(遇到冲突,直接使用目标实例中的冲突记录)。 当数据同步遇到冲突时,直接跳过当前同步语句,继续往下执行,选择使用目标库中的冲突记录。 Overwrite(遇到冲突,直接覆盖目标实例中的冲突记录)。 当数据同步遇到冲突时,直接覆盖目标库中的冲突记录。 正向和反向都可以选择以上一种冲突修复策略,DTS根据用户配置的冲突修复策略进行冲突的检测和处理。 PostgreSQL双向实时同步时,若源库和目标库同时变更同一个表的同一条数据,会怎么样? 数据库双写问题是业界难题,DTS的双向同步无法完全解决数据双写引发的数据冲突问题。在使用双向同步时,您需要在业务层面配合进行相应的改造,保证同一个主键或唯一键的记录只在双向同步的某个节点进行更新。 若短时间内业务对源库、目标库中同一条记录发生变更,DTS采用以下策略来保证数据的最终一致性: TaskFailed(遇到冲突,任务报错退出)。 当数据同步遇到冲突时,同步任务直接报错并退出,同步任务进入失败状态,需要您介入修复任务。 Ignore(遇到冲突,直接使用目标实例中的冲突记录)。 当数据同步遇到冲突时,直接跳过当前同步语句,继续往下执行,选择使用目标库中的冲突记录。 Overwrite(遇到冲突,直接覆盖目标实例中的冲突记录)。 当数据同步遇到冲突时,直接覆盖目标库中的冲突记录。 正向和反向都可以选择以上一种冲突修复策略,DTS根据用户配置的冲突修复策略进行冲突的检测和处理。
        来自:
        帮助文档
        数据传输服务DTS
        常见问题
        数据同步类
      • 数据集存储
        本节介绍数据集存储。 存储概述 数据集当前支持对象存储和并行文件两种类型。 对象存储 因对象存储产品本身不支持容量管理,因此数据集也无法进行容量管理。 并行文件 纳管并行文件类型数据集,其数据集容量和并行文件实例保持一致,在购买并行文件实例时,可以选择其容量。
        来自:
      • 1
      • ...
      • 84
      • 85
      • 86
      • 87
      • 88
      • ...
      • 432
      跳转至
      推荐热词
      天翼云运维管理审计系统天翼云云服务平台云服务备份云日志服务应用运维管理云手机云电脑天翼云云hbase数据库电信云大数据saas服务电信云大数据paas服务轻量型云主机天翼云客户服务电话应用编排服务天翼云云安全解决方案云服务总线CSB天翼云服务器配置天翼云联邦学习产品天翼云云安全天翼云企业上云解决方案天翼云产品天翼云视频云存储

      天翼云最新活动

      安全隔离版OpenClaw

      OpenClaw云服务器专属“龙虾“套餐低至1.5折起

      聚力AI赋能 天翼云大模型专项

      大模型特惠专区·Token Plan 轻享包低至9.9元起

      青云志云端助力计划

      一站式科研助手,海外资源安全访问平台,助力青年翼展宏图,平步青云

      企业出海解决方案

      助力您的业务扬帆出海,通达全球!

      天翼云信创专区

      “一云多芯、一云多态”,国产化软件全面适配,国产操作系统及硬件芯片支持丰富

      云上钜惠

      爆款云主机全场特惠,2核4G只要1.8折起!

      天翼云奖励推广计划

      加入成为云推官,推荐新用户注册下单得现金奖励

      产品推荐

      弹性云主机 ECS

      应用云主机 ACS

      镜像服务 IMS

      弹性伸缩服务 AS

      AI Store

      公共算力服务

      应用托管

      星辰TokenHub运营服务平台

      星辰MaaS模型服务平台

      推荐文档

      其他问题

      环境准备

      产品规格

      实例恢复

      概念

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 息壤智算平台
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 天翼云国际站
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2026 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号