PostgreSQL
功能 | 说明 |
---|---|
结构迁移 | 如目标不存在所选表,则自动根据源端元数据,结合映射生成对端创建语句并执行创建 |
全量数据迁移 | 逻辑迁移,通过顺序扫描表数据,将数据分批写入到对端数据库 |
增量实时同步 | 支持 INSERT, UPDATE, DELETE 常见 DML 同步 |
数据校验和订正 | 全量数据校验,并可选根据校验结果订正差异数据,支持定时,文档:创建定时校验订正任务 |
修改订阅 | 新增、删除、修改订阅表,支持历史数据迁移,文档:修改订阅 |
表名映射 | 支持 和源端保持一致, 转小写, 转大写, 以'_数字'后缀截取 |
元数据检索 | 从源端表查对端,查询设置过过滤条件的 |
高级功能
功能 | 说明 |
---|---|
0 值时间处理 | 支持将 0 值时间设置成不同类型的值,防止写入对端报错 |
自定义代码 | 文档1:创建自定义代码任务 |
数据过滤条件 | 支持 WHERE 条件进行数据过滤,内容为 SQL 92 子集,文档:创建数据过滤任务 |
设置目标主键 | 变更主键为其他字段,方便数据聚合等操作 |
限制和注意点
限制项 | 说明 |
---|---|
不支持 DDL 同步 | 因 PostgreSQL wal 日志未提供任何 DDL 相关信息,故无法同步 DDL |
主键冲突处理 | PostgreSQL <= 9.4 或 Greenplum <= 6, 因不支持冲突掠过或覆盖,当大量主键冲突场景下,性能较低 |
前置条件
条件 | 说明 |
---|---|
账号权限 | 需要权限如下(以自建数据库为例):
|
增量同步准备 | 准备动作按如下步骤进行:
|
网络准备 | 迁移同步节点(sidecar)可连接 PostgreSQL 标准交互接口(如 5432) |
任务参数
参数名称 | 说明 |
---|---|
fullFetchSize | 全量扫描数据设置的 fetch size |
eventStoreSize | 缓存解析完毕的增量事件缓存大小 |
ignoreGisSRID | 解析 GIS 数据类型时是否忽略 SRID |
defaultGisSRID | 设置 GIS 数据类型的 SRID |
Tips: 通用参数配置请参考 通用参数及功能
前置条件
条件 | 说明 |
---|---|
账号权限 | 具备 SELECT, INSERT, DELETE, UPDATE,常见 DDL 权限 |
网络准备 | 迁移同步节点(sidecar)可连接 PostgreSQL / Greenplum / AnalyticDB for Pg 标准交互接口(如 5432) |
任务参数
参数名称 | 说明 |
---|---|
keyConflictStrategy | 增量写入遇到主键冲突策略:
|
dstWholeReplace | 将 INSERT 和 UPDATE 操作变成对端的整行覆盖 |
enableTimeZoneProcess | 是否对时间字段进行时区转换 |
timezone | 目标端时区,例如 +08:00, Asia/Shanghai, America/New_York |
defaultZeroDate | 在遇到'0000-00-00 00:00:00' / '0000-00-00' 值时用于替换的默认值,可选参数有:
|
caseSensitive | 对端写入SQL语句表名大小写策略,包含
|
writeStrategy | 对端写入策略,包含
|
defaultGisSRID | 设置 GIS 数据类型的 SRID |
Tips: 通用参数配置请参考 通用参数及功能