跳到主要内容

Pulsar

选择对端数据库:

数据链路

基本功能

功能说明
结构迁移

如目标端不存在的 Topic , 则自动进行 Topic 创建,并支持设置分区数

增量实时同步

支持订阅源端 Topic 的消息

修改订阅

新增、删除、修改订阅 Topic,文档:修改订阅

重置位点

时间戳 回溯位点,重新消费过去一段时间的数据

高级功能

功能说明
消息格式

支持以下消息格式,文档:消息格式说明

  • CloudCanal内置格式
  • AlibabaCanal兼容格式

限制和注意点

限制项说明
目标端需要提前创建表

仅支持消息自动创建 Topic


源端数据源

前置条件

条件说明
网络准备

迁移同步节点(sidecar)可连接 Pulsar 各节点

任务参数

参数名称说明
schemaFormat

MQ 消息格式,文档:消息格式说明

subscriptionMode

Pulsar 订阅模式 DurableNonDurable

consumeParallel

消费 Pulsar 的并行度

receiverQueueSize

Pulsar 消费者接收队列大小

receiverMaxNumBytes

Pulsar batch 接收最大字节数, 单位为字节

receiverTimeout

Pulsar batch 接收超时时间, 单位为秒

connectionTimeoutMs

Pulsar Client 连接超时时间, 单位为毫秒

Tips: 通用参数配置请参考 通用参数及功能


目标端数据源

前置条件

条件说明
网络准备

迁移同步节点(sidecar)可连接 Pulsar 各节点

任务参数

参数名称说明
schemaFormat

消息格式,文档:消息格式说明

batchWriteSize

单条消息最大数据条数,超过则拆分消息

enableBatching

Pulsar 是否启用批量发送

batchingMaxBytes

Pulsar 批量发送最大字节数,单位为字节

connectionTimeoutMs

Pulsar Client 连接超时时间,单位为毫秒

compressionType

设置 Pulsar 消息压缩算法,支持 LZ4, ZLIB, ZSTD, SNAPPY 算法

envelopSchemaInclude

当 schemaFormat 设置为 DEBEZIUM_ENVELOP_JSON_FOR_MQ 时,消息体是否包含 schema 信息

Tips: 通用参数配置请参考 通用参数及功能

数据链路

基本功能

高级功能

限制和注意点

源端数据源

前置条件

任务参数

目标端数据源

前置条件

任务参数