支持的源和目标数据库
表支持的数据库
| 源数据库 | 目标数据库 |
|---|---|
| 本地自建MySQL数据库 ECS自建MySQL数据库 |
Kafka |
前提条件
- 已登录数据复制服务控制台。
- 满足实时同步支持的数据库类型和版本，详情请参见实时同步。
使用建议
- 数据库同步与环境多样性和人为操作均有密切关系，为了确保同步的平顺，建议您在进行正式的数据库同步之前进行一次演练，可以帮助您提前发现问题并解决问题。
- 建议您在启动任务时选择“稍后启动”功能，将启动时间设置在业务低峰期，避免同步对业务造成性能影响。
使用建议
在创建同步任务前，请务必阅读以下使用须知。
表 使用须知
类型名称 使用和操作限制 数据库权限设置
源数据库账号需要具备如下权限：SELECT、SHOW VIEW、EVENT、LOCK TABLES、REPLICATION SLAVE、REPLICATION CLIENT、RELOAD。
同步对象约束
支持表数据的同步。
不支持非MyISAM和非InnoDB表的同步。
源数据库要求
MySQL源数据库的binlog日志必须打开，且binlog日志格式必须为Row格式。
在磁盘空间允许的情况下，建议源数据库binlog保存时间越长越好，建议为3天。
源数据库expire_logs_days参数值为0，可能会导致同步失败。
增量同步时，必须设置MySQL源数据库的server_id。如果源数据库版本小于或等于MySQL5.6，server_id的取值范围在2－4294967296之间；如果源数据库版本等于MySQL5.7，server_id的取值范围在1－4294967296之间。
源数据库中的库、表名不能包含：'<`>/\以及非ASCII字符。
目标数据库要求
目标库为社区Kafka。
操作须知
相互关联的数据对象要确保同时同步，避免因关联对象缺失，导致同步失败。常见的关联关系：视图引用表、视图引用视图、存储过程/函数/触发器引用视图/表、主外键关联表等。
不支持外键级联操作。
不支持强制清理binlog，否则会导致同步任务失败。
如果源库MySQL不支持TLS1.2协议，或者为版本较低的自建库（低于5.6.46或在5.7-5.7.28之间），需提交运维申请才能使用SSL测试连接。
同步程中，不允许删除和修改源库的用户名、密码、权限，或修改目标数据库的端口号。
当在同步过程中，对MyISAM表执行修改操作时，可能造成数据不一致。
选择表级对象同步时，同步过程中不建议对表进行重命名操作。
由于kafka的机制，Topic名字格式不能以"__" ， "."开头，或以".internal"，"-internal" 结尾，这些命名格式的Topic会被当做为kafka的内部Topic，业务无法使用。
操作步骤
步骤 1 在“实时同步管理”页面，单击“创建同步任务”。
步骤 2 在“同步实例”页面，填选任务名称、描述、同步实例信息，单击“下一步”。
表 任务和描述
| 参数 | 描述 |
|---|---|
| 任务名称 | 任务名称在4-50位之间，必须以字母开头，不区分大小写，可以包含字母、数字、中划线或下划线，不能包含其他的特殊字符。 |
| 描述 | 描述不能超过256位，且不能包含! = < > & ' " \ 特殊字符。 |
表 同步实例信息
| 参数 | 描述 |
|---|---|
| 数据流动方向 | 选择“自建-自建”。 |
| 源数据库引擎 | 选择“MySQL”。 |
| 目标数据库引擎 | 选择“Kafka”。 |
| 网络类型 | 此处以“公网网络”为示例。目前支持可选公网网络、VPC网络和VPN、专线网络。 |
| 可用区 | 选择DRS实例创建在哪个可用区，选择跟源或目标库相同的可用区性能更优。 |
| VPC | 选择可用的虚拟私有云。 |
| 同步实例所在子网 | 请选择同步实例所在的子网。也可以单击“查看子网”，跳转至“网络控制台”查看实例所在子网帮助选择。 默认值为当前所选数据库实例所在子网，请选择有可用IP地址的子网。为确保同步实例创建成功，仅显示已经开启DHCP的子网。 |
| IP类型 | 选择迁移实例的IP类型，目前支持选择“IPv4”或“IPv4&IPv6双栈”。只有所选择的VPC及子网都开启了IPv6双栈功能，才能选择IP类型为“IPv4&IPv6双栈”。 |
| 内网安全组 | 请选择内网安全组。内网安全组限制实例的安全访问规则，加强安全访问。 |
| 同步类型 | * 增量增量同步通过解析日志等技术，将源端产生的增量数据同步至目标端。 无需中断业务，实现同步过程中源业务和数据库继续对外提供访问。 |
| 标签 | * 可选配置，对同步任务的标识。使用标签可方便管理您的任务。每个任务最多支持10个标签配额。任务创建成功后，您可以单击任务名称，在“标签”页签下查看对应标签。关于标签的详细操作，请参见 标签管理。 |
步骤 3 在“源库及目标库”页面，同步实例创建成功后，填选源库信息和目标库信息，单击“源库和目标库”处的“测试连接”，分别测试并确定与源库和目标库连通后，勾选协议，单击“下一步”。
表 源库信息
| 参数 | 描述 |
|---|---|
| IP地址或域名 | 源数据库的IP地址或域名。 |
| 端口 | 源数据库服务端口，可输入范围为1~65535间的整数。 |
| 数据库用户名 | 源数据库的用户名。 |
| 数据库密码 | 源数据库的用户名所对应的密码。 |
| SSL安全连接 | 通过该功能，用户可以选择是否开启对迁移链路的加密。如果开启该功能，需要用户上传SSL CA根证书。 说明 * 最大支持上传500KB的证书文件。* 如果不使用SSL证书，请自行承担数据安全风险。 |
说明源数据库的数据库用户名和密码，会被系统加密暂存，直至删除该迁移任务后自动清除。
表 源库信息
| 参数 | 描述 |
|---|---|
| IP地址或域名 | 目标数据库的IP地址或域名。 |
步骤 4 在“设置同步”页面，选择同步策略、数据格式和同步对象，单击“下一步”。
表 同步对象
参数 描述 同步Topic策略 同步Topic策略，可选择
集中投递到一个Topic：适合源库业务量不大的场景。
自动生成Topic名字：适合每张表数据量都较大的场景，按每一张库表来确定一个Topic。
Topic 选择目标端需要同步到的Topic，同步Topic策略选择集中投递到一个Topic时可见。 Topic名字格式 Topic名字格式，同步Topic策略选择自动生成Topic名字时可见。
Topic名字格式支持database和tablename两个变量，其他字符都当做常量。分别用$database$代替数据库名，$tablename$代替表名。
例如：配置成$database$-$tablename$时，如果数据库名称为db1，表名为tab1，则Topic名字为db1-tab1。如果是DDL语句，$tablename$为空，则Topic名字为db1。
由于kafka的机制，Topic名字格式不能以"__" ， "."开头，或以".internal"，"-internal" 结尾，这些命名格式的Topic会被当做为kafka的内部Topic，业务无法使用。同步到kafka partition策略 同步到kafka partition策略。
按库名+表名的hash值投递到不同Partition：适用于单表的查询场景，可以提高单表读写性能，推荐使用此选项。
全部投递到Partition 0：适用于有事务要求的场景，写入性能比较差，如果没有强事务要求，不推荐使用此选项。
按表的主键值hash值投递到不同的Partion：适用于一个表一个Topic的场景，避免该表都写到同一个分区，消费者可以并行从各分区获取数据。
投送到kafka的数据格式 选择MySQL投送到kafka的数据格式。
Avro：可以显示Avro二进制编码，高效获取数据。
JSON：为Json消息格式，方便解释格式，但需要占用更多的空间。
JSON-C：一种能够兼容多个批量，流式计算框架的数据格式。
详细格式可参考 Kafka消息格式。
同步对象 同步对象支持表级同步、库级同步，您可以根据业务场景选择对应的数据进行同步。
选择对象的时候支持搜索，以便您快速选择需要的数据库对象。
在同步对象右侧已选对象框中，可以使用对象名映射功能进行源数据库和目标数据库中的同步对象映射，具体操作可参考对象名映射。
步骤 5 在“数据加工”页面，选择需要加工的列，进行列加工。
- 如果不需要数据加工，单击“下一步”。
- 如果需要加工列，参考数据加工章节，设置相关规则。
步骤 6 在“预检查”页面，进行同步任务预校验，校验是否可进行实时同步。
- 查看检查结果，如有不通过的检查项，需要修复不通过项后，单击“重新校验”按钮重新进行任务预校验。
- 预检查完成后，且所有检查项结果均通过时，单击“下一步”。
说明所有检查项结果均通过时，若存在请确认项，需要阅读并确认详情后才可以继续执行下一步操作。
步骤 7 在“任务确认”页面，设置同步任务的启动时间，并确认同步任务信息无误后，单击“启动任务”，提交同步任务。
表 任务启动设置
| 参数 | 描述 |
|---|---|
| 启动时间 | 同步任务的启动时间可以根据业务需求，设置为“立即启动”或“稍后启动”。 说明 预计同步任务启动后，会对源数据库和目标数据库的性能产生影响，建议选择业务低峰期，合理设置同步任务的启动时间。 |
步骤 8 同步任务提交后，您可在“管理”页面，查看并管理自己的任务。
- 您可查看任务提交后的状态，状态请参见 任务状态说明。
- 在任务列表的右上角，单击
刷新列表，可查看到最新的任务状态。
