支持的源和目标数据库

表支持的数据库

源数据库	目标数据库
本地自建Mongo数据库 ECS自建Mongo数据库 其他云上Mongo数据库 DDS实例	DDS实例

前提条件

• 已登录数据复制服务控制台。
• 满足实时同步支持的数据库类型和版本，详情请参见实时同步。

使用建议

• 数据库同步与环境多样性和人为操作均有密切关系，为了确保同步的平顺，建议您在进行正式的数据同步之前进行一次演练，可以帮助您提前发现问题并解决问题。

• 同步阶段，确保目标数据库无业务写入，保证同步前后数据一致。

• 基于以下原因，建议您在启动任务时选择“稍后启动”功能，将启动时间设置在业务低峰期，相对静止的数据可以有效提升一次性同步成功率，避免同步对业务造成性能影响。

  • 在网络无瓶颈的情况下，全量同步会对源数据库增加约20MB/s的查询压力，以及占用2~4个CPU。
  • DRS并发读取数据库，会占用大约6-10个session连接数，需要考虑该连接数对业务的影响。

• 数据对比

建议您结合数据对比的“稍后启动”功能，选择业务低峰期进行数据对比，以便得到更为具有参考性的对比结果。由于同步具有轻微的时差，在数据持续操作过程中进行对比任务，可能会出现少量数据不一致对比结果，从而失去参考意义。

使用须知

在创建同步任务前，请务必阅读以下使用须知。

说明
建议创建单独用于DRS任务连接的数据库帐号，避免因为数据库帐号密码修改，导致的任务连接失败。
连接源或目标数据库的帐号密码修改后，请尽快修改连接信息，避免任务连接失败后自动重试，导致数据库帐号被锁定影响使用。

表使用须知

类型名称
使用和操作限制
数据库权限设置
源数据库最小权限要求：
l 全量+增量同步权限要求：
− 副本集：连接源数据库的用户需要有admin库的readAnyDatabase权限，有local库的read权限。
目标数据库最小权限要求：连接目标数据库的用户需要有admin库的dbAdminAnyDatabase权限，有目标数据库的readWrite权限。
同步对象约束
l 副本集：目前只支持集合(包括验证器，是否是固定集合)，索引和视图的同步。
l 不支持同步系统库（如local、admin、config等）和系统集合，如果业务数据在系统库下，则需要先将业务数据移动到用户数据库下，可以使用renameCollection命令进行移出。
l 不支持视图的创建语句中有正则表达式。
l 不支持_id字段没有索引的集合。
l 不支持BinData()的第一个参数为2。
l 同步对象映射名称长度在1到63个字符之间，不支持以下字符：/ \ . " $<>。
源数据库要求
l 增量同步时，源数据库的Oplog日志必须打开。
l 在磁盘空间允许的情况下，建议源数据库Oplog保存时间越长越好，建议为3天。
l 不支持源数据库的库名包含/\."$和空格， 集合名或视图名中不能包含$或以system.开头。
l 源数据库不能是GaussDB(for Mongo)实例。
目标数据库要求
l 目标数据库实例的运行状态必须正常。
l 目标数据库实例必须有足够的磁盘空间。
l 目前不支持从高版本数据库到低版本数据库的同步。
操作须知
l 相互关联的数据对象要确保同时同步，避免同步因关联对象缺失，导致同步失败。常见的关联关系：视图引用集合、视图引用视图等。
l 副本集：MongoDB数据库的副本集实例状态必须正常，要存在主节点。
l 源数据库为副本集实例时，增量同步阶段支持如下操作：
− 支持文档（document）新增、删除、更新。
− 支持集合（collection）新建、删除。
− 支持索引（index）新建、删除。
− 支持视图（view）新建，删除。
− 支持convertToCapped、collMod、renameCollection命令。
l 对于在源数据库已经存在TTL索引的集合，或者在增量同步期间在源库数据创建了TTL索引的集合，由于源数据库和目标库数据库时区，时钟的不一致，不能保证同步完成之后数据的一致性。
l 压缩参数block_compressor的取值，根据源库对应集合的stats().wiredTiger.creationString.block_compressor来决定，如果目标库已经存在对应的空集合，则不同步压缩参数；特殊的，对于不支持的压缩参数，按照目标库实例的net.compression.compressors参数决定。当目标库为DDS 4.2版本时，由于目标库不支持压缩参数的设置，DRS不同步压缩参数。
l 如果源数据库的MongoDB服务不是单独部署的，而是和其他的服务部署在同一台机器，则必须要给源数据库的wiredTiger引擎加上cacheSizeGB的参数配置，建议值设为最小空闲内存的一半。
l 选择集合同步时，增量同步过程中不建议对集合进行重命名操作。
l 建议填写副本集所有的主节点和备节点信息，以防主备切换影响同步任务。如果填写的是主备多个节点的信息，注意所有的节点信息必须属于同一个副本集实例。
l 为了保持数据一致性，在整个同步过程中，不允许对正在同步中的目标数据库进行修改操作（包括但不限于DDL、DML操作）。
l 同步过程中，不允许修改、删除连接源和目标数据库的用户的用户名、密码、权限，或修改源和目标数据库的端口号。
l 在任务启动、任务全量同步阶段，不建议对源数据库做删除类型的DDL操作，比如删除数据库、集合、索引、文档、视图等，这样可能会引起任务同步失败。
l 在整个同步过程中，不支持源数据库主备切换导致数据回滚的情况。
l 不支持全量同步和增量同步阶段insert、update源库大于16MB的文档。
l 任务增量阶段，为保证同步的性能，会集合级的进行并发回放。特殊地，以下情况只支持单线程写入，不支持并发回放：
− 集合的索引中有unique key时；
− 集合属性的capped为true时；
这种情况可能会导致任务时延增高。
l 为了提高同步的速度，在开始同步之前，建议在源数据库删掉不需要的索引，只保留必须的索引。在同步过程中不建议对源库创建索引，如果必须要创建索引，请使用后台的方式创建索引。
l 为了防止回环，不支持在相同的源和目标库同时启动入云和出云任务。
说明
同步任务支持源和目标为同一个数据库，为了避免回环，必须使用对象名映射功能进行重命名。

操作步骤

本章节将以DDS副本集为示例，介绍在VPC网络场景下，通过数据复制服务配置DDS副本集同步任务的流程。

步骤 1 在“实时同步管理”页面，单击“创建同步任务”。

步骤 2 在“同步实例”页面，填选任务名称、描述、同步实例信息，单击“开始创建”。

• 任务信息

表 任务和描述

参数	描述
任务名称	任务名称在4到50位之间，必须以字母开头，可以包含字母、数字、中划线或下划线，不能包含其他的特殊字符。
描述	描述不能超过256位，且不能包含! = < > & ' " \ 特殊字符。

• 同步实例信息

表 同步实例信息

参数	描述
数据流动方向	选择入云。入云指目标端数据库为本云数据库。
源数据库引擎	选择“MongoDB”。
目标数据库引擎	选择“DDS”。
网络类型	此处以“公网网络”为示例，默认为公网网络类型，可按照需求选择VPC网络、VPN网络、专线网络、公网网络。
目标数据库实例	用户所创建的目标数据库实例。
同步实例所在子网	请选择同步实例所在的子网。也可以单击“查看子网”，跳转至“网络控制台”查看实例所在子网帮助选择。默认值为当前所选数据库实例所在子网，请选择有可用IP地址的子网。为确保同步实例创建成功，仅显示已经开启DHCP的子网。
IP类型	选择迁移实例的IP类型，目前支持选择“IPv4”或“IPv4&IPv6双栈”。只有所选择的VPC及子网都开启了IPv6双栈功能，才能选择IP类型为“IPv4&IPv6双栈”。
同步模式	全量+增量：该模式为数据库持续性同步，适用于对业务中断敏感的场景，通过全量同步过程完成目标端数据库的初始化后，增量同步阶段通过解析日志等技术，将源端和目标端数据库保持数据持续一致。 说明 选择“全量+增量”同步模式，增量同步可以在全量同步完成的基础上实现数据的持续同步，无需中断业务，实现同步过程中源业务和数据库继续对外提供访问。
源数据库实例类型	同步模式为“全量+增量”时，需要根据源数据库的具体来源进行设置，目前源库仅支持副本集，该项为非集群。

说明
对于创建失败的任务，DRS默认保留3天，超过3天将会自动结束任务。

步骤 3 在“源库及目标库”页面，同步实例创建成功后，填选源库信息和目标库信息，单击“源库和目标库”处的“测试连接”，分别测试并确定与源库和目标库连通后，勾选协议，单击“下一步”。

• 源库信息

表 源库信息

参数	描述
数据库类型	源数据库类型可以为“ECS自建库”或“DDS实例”，本示例选择“DDS实例”。
VPC	源数据库类型选择“ECS自建库”可见，指源数据库实例所在的虚拟专用网络，可以对不同业务进行网络隔离。
子网	源数据库类型选择“ECS自建库”可见，通过子网提供与其他网络隔离的、可以独享的网络资源，以提高网络安全。子网在可用分区内才会有效，创建源数据库实例的子网需要开启DHCP功能，在创建过程中也不能关闭已选子网的DHCP功能。
IP地址或域名	源数据库类型选择“ECS自建库”可见，源数据库的IP地址或域名。
数据库实例名称	源数据库类型选择“DDS实例”可见，选择作为源数据库的DDS实例。
帐号认证数据库	填写的数据库帐号所属的数据库名称。例如：DDS实例默认的帐号认证数据库为admin。
数据库用户名	源数据库的用户名。
数据库密码	源数据库的用户名所对应的密码。
SSL安全连接	通过该功能，用户可以选择是否开启对同步链路的加密。如果开启该功能，需要用户上传SSL CA根证书。 说明 最大支持上传500KB的证书文件。 如果不启用SSL安全连接，请自行承担数据安全风险。

说明

源数据库的IP地址或域名、数据库用户名和密码，会被系统加密暂存，直至删除该同步任务后自动清除。

• 目标库信息配置

表 目标库信息

参数	描述
数据库实例名称	默认为创建同步任务时选择的数据库实例，不可进行修改。
帐号认证数据库	填写的数据库帐号所属的数据库名称。例如：DDS实例默认的帐号认证数据库为admin。
数据库用户名	目标数据库对应的数据库用户名。
数据库密码	目标数据库的登录密码。
SSL安全连接	通过该功能，用户可以选择是否开启对同步链路的加密。如果开启该功能，需要用户上传SSL CA根证书。 说明 最大支持上传500KB的证书文件。 如果不启用SSL安全连接，请自行承担数据安全风险。

说明

目标数据库的用户名和密码将在同步过程中被加密暂存到数据库和同步实例主机上，待该任务删除后会永久清除。

步骤 4 在“同步设置”页面，设置同步对象，单击“下一步”。

表同步对象

参数
描述
流速模式
流速模式支持限速和不限速，默认为不限速。
l 限速
自定义的最大同步速度，全量同步过程中的同步速度将不会超过该速度。
当流速模式选择了“限速”时，你需要通过流速设置来定时控制同步速度。流速设置通常包括限速时间段和流速大小的设置。默认的限速时间段为“全天限流”，您也可以根据业务需求选择“时段限流”。自定义的时段限流支持最多设置3个定时任务，每个定时任务之间不能存在交叉的时间段，未设定在限速时间段的时间默认为不限速。
流速的大小需要根据业务场景来设置，不能超过9999MB/s。
l 不限速
对同步速度不进行限制，通常会最大化使用源数据库的出口带宽。该流速模式同时会对源数据库造成读消耗，消耗取决于源数据库的出口带宽。比如源数据库的出口带宽为100MB/s，假设高速模式使用了80%带宽，则同步对源数据库将造成80MB/s的读操作IO消耗。
说明
l 限速模式只对全量阶段生效，增量阶段不生效。
l 您也可以在创建任务后修改流速模式。具体方法请参见修改流速模式。
同步对象
左侧框是源数据库对象，右侧框是已经选择的对象，同步对象支持表级同步、库级同步，您可以根据业务场景选择对应的数据进行同步。
在同步对象右侧已选对象框中，可以使用对象名映射功能进行源数据库和目标数据库中的同步对象映射，具体操作可参考4.6.5.2 对象名映射。映射后名称长度在1到63个字符之间，不支持以下字符：/ \ . " $<>。
如果有切换源数据库的操作或源库同步对象变化的情况，请务必在选择同步对象前单击右上角的，以确保待选择的对象为最新源数据库对象。
说明
l 选择对象的时候支持对展开的库进行搜索，以便您快速选择需要的数据库对象。
l 如果有切换源数据库的操作或源库同步对象变化的情况，请在选择同步对象前单击右上角的，以确保待选择的对象为最新源数据库对象。
l 当对象名称包含空格时，名称前后的空格不显示，中间如有多个空格只显示一个空格。
l 选择的同步对象名称中不能包含空格。

步骤 5 在“预检查”页面，进行同步任务预校验，校验是否可进行同步。

• 查看检查结果，如有不通过的检查项，需要修复不通过项后，单击“重新校验”按钮重新进行任务预校验。
• 预检查完成后，且预检查通过率为100%时，单击“下一步”。

说明
所有检查项结果均通过时，若存在请确认项，需要阅读并确认详情后才可以继续执行下一步操作。

步骤 6 在“任务确认”页面，设置同步任务的启动时间，并确认同步任务信息无误后，单击“启动任务”，提交同步任务。

表任务启动设置

参数	描述
启动时间	同步任务的启动时间可以根据业务需求，设置为“立即启动”或“稍后启动”。 说明 预计同步任务启动后，会对源数据库和目标数据库的性能产生影响，建议选择业务低峰期，合理设置同步任务的启动时间。

步骤 7 同步任务提交后，您可在“管理”页面，查看并管理自己的任务。

• 您可查看任务提交后的状态，状态请参见任务状态说明。
• 在任务列表的右上角，单击刷新列表，可查看到最新的任务状态。
• 对于未启动、状态为配置中的任务，DRS默认保留3天，超过3天DRS会自动删除后台资源，当前任务状态不变。当用户再次配置时，DRS会重新申请资源。