将Oracle同步到Kafka
更新时间 2024-10-23 15:40:27
最近更新时间: 2024-10-23 15:40:27
本节主要介绍将Oracle同步到Kafka
支持的源和目标数据库
表 支持的数据库
| 源数据库 | 目标数据库 |
|---|---|
| 本地自建Oracle数据库 ECS自建Oracle数据库 |
Kafka |
前提条件
- 已登录数据复制服务控制台。
- 满足实时同步支持的数据库类型和版本，详情请参见实时同步。
使用建议
- 数据库同步与环境多样性和人为操作均有密切关系，为了确保同步的平顺，建议您在进行正式的数据库同步之前进行一次演练，可以帮助您提前发现问题并解决问题。
- 建议您在启动任务时选择“稍后启动”功能，将启动时间设置在业务低峰期，避免同步对业务造成性能影响。
使用须知
在创建同步任务前，请务必阅读以下使用须知。
表 环境要求
| 类型名称 | 使用限制 （DRS自动检查） |
|---|---|
| 数据库权限设置 | 源数据库端：− 12c及以上版本CDB数据库同步时，需要具有CREATE SESSION，SELECT ANY DICTIONARY，针对单表的SELECT权限（GRANT SELECT <userName.tbName> to drsUser;），EXECUTE_CATALOG_ROLE，SELECT ANY TRANSACTION，LOGMINING，SELECT ON SYS.COL，SELECT ON SYS.OBJ，SET CONTAINER（GRANT SET CONTAINER TOCONTAINER=ALL;）权限。 − 12c及以上版本PDB数据库同步时，除了需要具有CREATE SESSION，SELECT ANY DICTIONARY，针对单表的SELECT权限（GRANT SELECT <userName.tbName> to drsUser;），EXECUTE_CATALOG_ROLE，SELECT ANY TRANSACTION，LOGMINING，SELECT ON SYS.COL，SELECT ON SYS.OBJ权限，还需要具有CDB的CREATE SESSION，SELECT ANY DICTIONARYCREATE SESSION, SELECT ANY DICTIONARY，EXECUTE_CATALOG_ROLE，SELECT ANY TRANSACTION，LOGMINING，SET CONTAINER（GRANT SET CONTAINER TOCONTAINER=ALL;）权限。 − 11g及以下版本数据库同步时，需要具有CREATE SESSION，SELECT ANY DICTIONARY，针对单表的SELECT权限（GRANT SELECT <userName.tbName> to drsUser;），EXECUTE_CATALOG_ROLE，SELECT ANY TRANSACTION，SELECT ON SYS.COL，SELECT ON SYS.OBJ。 |
| 同步对象约束 | 支持表的同步，其他数据库对象暂不支持。 支持VARCHAR、VARCHAR2、NVARCHAR2、NUMBER、FLOAT、LONG、DATE、BINARY_FLOAT、BINARY_DOUBLE、CHAR、NCHAR、ROWID、TIMESTAMP、TIMESTAMP WITH TIME ZONE、TIMESTAMP WITH LOCAL TIME ZONE类型。* 不支持接入的列类型：GEOMETRY以及自定义类型。* 不支持同步但以过滤方式接入的列类型：BLOB、 CLOB、NCLOB、INTERVAL_YEAR_TO_MONTH、INTERVAL_DAY_TO_SECOND、UROWID、BFILE、XML、LONG、long raw。* 支持同步但默认过滤的列类型：raw（同步数据为原始二进制数据）。* 不支持默认值含有表达式的函数的表的同步。 |
| 源数据库要求 | 库名、表名不支持的字符有：非ASCII字符、“. ”、 “>”、 “<”、 “\”、 “`”、 “ |
| 目标数据库要求 | 目标库为社区Kafka。 |
| 操作须知 | 如有中文、日文等特殊字符，业务连接Oracle数据库使用的编码需和Oracle数据库服务端编码一致，否则目标库会出现乱码。 Oracle中实时同步到kafka后的字符集为UTF8。 对于Oracle RAC集群，建议使用SCAN IP+ SERVICE_NAMES方式创建任务，SCAN IP具有更强的容错性，更好的负载能力，更快的同步体验。 源库为Oracle RAC环境时，如果需要使用SCAN IP，需要保证SCAN IP与源库的所有VIP互通，否则无法通过连接检查。若不使用SCAN IP，可以使用某一节点的VIP，其他节点异常不影响同步。 日志中未出现的列在传递的消息中不会出现，表示该列未更新。 同步过程中，不允许删除连接源和目标数据库的用户的用户名、密码、权限，或修改目标数据库的端口号。 选择表级对象同步时，增量同步过程中不建议对表进行重命名操作。 由于kafka的机制，Topic名字格式不能以"__" ， "."开头，或以".internal"，"-internal" 结尾，这些命名格式的Topic会被当做为kafka的内部Topic，业务无法使用。 支持表级DDL操作。 任务再编辑增加新表时，请确保新增的表的事务都已提交，否则未提交的事务可能无法同步到目标库。建议在业务低峰期做增加表的操作。 |
操作步骤
步骤 1 在“实时同步管理”页面，单击“创建同步任务”。
步骤 2 在“同步实例”页面，填选任务名称、描述、同步实例信息，单击“下一步”。
表 任务和描述
| 参数 | 描述 |
|---|---|
| 任务名称 | 任务名称在4-50位之间，必须以字母开头，不区分大小写，可以包含字母、数字、中划线或下划线，不能包含其他的特殊字符。 |
| 描述 | 描述不能超过256位，且不能包含! = < > & ' " \ 特殊字符。 |
表 同步实例信息
| 参数 | 描述 |
|---|---|
| 数据流动方向 | 选择“自建-自建”。 |
| 源数据库引擎 | 选择“Oracle”。 |
| 目标数据库引擎 | 选择“Kafka”。 |
| 网络类型 | 此处以“公网网络”为示例。目前支持可选公网网络、VPC网络和VPN、专线网络。 |
| 可用区 | 选择DRS实例创建在哪个可用区，选择跟源或目标库相同的可用区性能更优。 |
| VPC | 选择可用的虚拟私有云。 |
| 同步实例所在子网 | 请选择同步实例所在的子网。也可以单击“查看子网”，跳转至“网络控制台”查看实例所在子网帮助选择。 默认值为当前所选数据库实例所在子网，请选择有可用IP地址的子网。为确保同步实例创建成功，仅显示已经开启DHCP的子网。 |
| IP类型 | 选择迁移实例的IP类型，目前支持选择“IPv4”或“IPv4&IPv6双栈”。只有所选择的VPC及子网都开启了IPv6双栈功能，才能选择IP类型为“IPv4&IPv6双栈”。 |
| 同步类型 | 请选择内网安全组。内网安全组限制实例的安全访问规则，加强安全访问。 |
| 标签 | 对于已成功关联企业项目的用户，仅需在“企业项目”下拉框中选择目标项目。 如果需要自定义企业项目，请前往项目管理服务进行创建。关于如何创建项目，详见《项目管理用户指南》。 * 可选配置，对同步任务的标识。使用标签可方便管理您的任务。每个任务最多支持10个标签配额。* 任务创建成功后，您可以单击任务名称，在“标签”页签下查看对应标签。关于标签的详细操作，请参见 标签管理。 |
步骤 3 在“源库及目标库”页面，同步实例创建成功后，填选源库信息和目标库信息，单击“源库和目标库”处的“测试连接”，分别测试并确定与源库和目标库连通后，勾选协议，单击“下一步”。
表 源库信息
| 参数 | 描述 |
|---|---|
| IP地址或域名 | 源数据库的IP地址或域名。 说明 对于RAC集群，建议使用scanip接入，提高访问性能。 |
| 端口 | 源数据库服务端口，可输入范围为1~65535间的整数。 |
| 数据库服务名 | 数据库服务名（Service Name/SID），客户端可以通过其连接到Oracle，具体查询方法请参照界面提示。 |
| PDB名称 | PDB同步仅在Oracle12c及以后的版本支持，该功能为选填项，当需要迁移PDB中的表时开启。 PDB功能开启后，只能迁移该PDB中的表，并且需要提供CDB的service name/sid及用户名和密码，不需要PDB的用户名和密码。 |
| 数据库用户名 | 源数据库的用户名。 |
| 数据库密码 | 源数据库的用户名所对应的密码。 |
| SSL安全连接 | 通过该功能，用户可以选择是否开启对迁移链路的加密。如果开启该功能，需要用户上传SSL CA根证书。 说明 * 最大支持上传500KB的证书文件。* 如果不使用SSL证书，请自行承担数据安全风险。 |
说明源数据库的IP地址或域名、数据库用户名和密码，会被系统加密暂存，直至删除该迁移任务后自动清除。
表 目标库信息
| 参数 | 描述 |
|---|---|
| IP地址或域名 | 目标数据库的IP地址或域名。 |
| 安全协议 | 支持四种认证方式的选择，PLAINTEXT、SSL、SASL_PLAINTEXT和SASL_SSL，详细说明可参考 Kafka认证方式。 |
步骤 4 在“设置同步”页面，选择Topic和同步对象，单击“下一步”。
表 同步模式和对象
| 参数 | 描述 |
|---|---|
| Topic | 选择目标端需要同步到的Topic。 |
| 投送到kafka的数据格式 | 选择Oracle投送到kafka的数据格式。 * Avro：可以显示Avro二进制编码，高效获取数据。* Json：为Json消息格式。详细格式可参考Kafka消息格式。 |
| 同步对象 | 同步对象支持表级同步，您可以根据业务场景选择对应的数据进行同步。 选择对象的时候支持搜索，以便您快速选择需要的数据库对象。 |
步骤 5 在“预检查”页面，进行同步任务预校验，校验是否可进行实时同步。
- 查看检查结果，如有不通过的检查项，需要修复不通过项后，单击“重新校验”按钮重新进行任务预校验。
- 预检查完成后，且所有检查项结果均通过时，单击“下一步”。
说明所有检查项结果均通过时，若存在请确认项，需要阅读并确认详情后才可以继续执行下一步操作。
步骤 6 在“任务确认”页面，设置同步任务的启动时间，并确认同步任务信息无误后，单击“启动任务”，提交同步任务。
表 任务启动设置
| 参数 | 描述 |
|---|---|
| 启动时间 | 同步任务的启动时间可以根据业务需求，设置为“立即启动”或“稍后启动”。 说明 预计同步任务启动后，会对源数据库和目标数据库的性能产生影响，建议选择业务低峰期，合理设置同步任务的启动时间。 |
步骤 7 同步任务提交后，您可在“管理”页面，查看并管理自己的任务。
- 您可查看任务提交后的状态，状态请参见 任务状态说明。
- 在任务列表的右上角，单击
刷新列表，可查看到最新的任务状态。
