Pulsar
选择对端数据库:
Pulsar
功能 | 说明 |
---|---|
结构迁移 | 如目标端不存在的 Topic , 则自动进行 Topic 创建,并支持设置分区数 |
增量实时同步 | 支持订阅源端 Topic 的消息 |
修改订阅 | 新增、删除、修改订阅 Topic,文档:修改订阅 |
重置位点 | 按 时间戳 回溯位点,重新消费过去一段时间的数据 |
高级功能
功能 | 说明 |
---|---|
消息格式 | 支持以下消息格式,文档:消息格式说明
|
任务参数
参数名称 | 说明 |
---|---|
schemaFormat | MQ 消息格式,文档:消息格式说明 |
subscriptionMode | Pulsar 订阅模式 Durable 或 NonDurable |
consumeParallel | 消费 Pulsar 的并行度 |
receiverQueueSize | Pulsar 消费者接收队列大小 |
receiverMaxNumBytes | Pulsar batch 接收最大字节数, 单位为字节 |
receiverTimeout | Pulsar batch 接收超时时间, 单位为秒 |
connectionTimeoutMs | Pulsar Client 连接超时时间, 单位为毫秒 |
Tips: 通用参数配置请参考 通用参数及功能
任务参数
参数名称 | 说明 |
---|---|
schemaFormat | 消息格式,文档:消息格式说明 |
batchWriteSize | 单条消息最大数据条数,超过则拆分消息 |
enableBatching | Pulsar 是否启用批量发送 |
batchingMaxBytes | Pulsar 批量发送最大字节数,单位为字节 |
connectionTimeoutMs | Pulsar Client 连接超时时间,单位为毫秒 |
compressionType | 设置 Pulsar 消息压缩算法,支持 LZ4, ZLIB, ZSTD, SNAPPY 算法 |
envelopSchemaInclude | 当 schemaFormat 设置为 DEBEZIUM_ENVELOP_JSON_FOR_MQ 时,消息体是否包含 schema 信息 |
Tips: 通用参数配置请参考 通用参数及功能