AutoMQ to ClickHouse

选择对端数据库：

ClickHouse

数据链路

基本功能

功能	说明
增量实时同步	支持订阅源端 Topic 的消息，并转换为 INSERT、UPDATE、DELETE DML
修改订阅	新增、删除、修改订阅 Topic，文档：修改订阅
重置位点	按 时间戳 回溯位点，重新消费过去一段时间的数据

高级功能

功能	说明
消息格式	支持以下消息格式，文档：消息格式说明 CloudCanal内置格式 AlibabaCanal兼容格式
追加模式写入	INSERT 和 UPDATE 以追加模式批量写入, DELETE 单独通过 ALTER 方式执行
定时优化表	通过设置 autoOptimizeThresholdSec 参数，定时优化表

限制和注意点

限制项	说明
目标端需要提前创建表	仅支持消息自动创建 Topic
原始消息格式	仅支持 AutoMQ 到 AutoMQ，且两端的消息格式都需要选择 原始消息格式
特殊操作	DELETE 操作过多（>50 条/秒）将大幅影响数据同步性能
目标端表引擎	仅支持以下表引擎以及对应的源端表类型: MergeTree（无主键表） ReplacingMergeTree（有主键表） ReplicatedMergeTree（无主键表） ReplicatedReplacingMergeTree（有主键表）

使用示例

标题	详情
CloudCanal x AutoMQ 数据迁移同步	文档：CloudCanal x AutoMQ 数据迁移同步
跨互联网数据互通 (AutoMQ)	文档：跨互联网数据互通 (AutoMQ)
AutoMQ 数据中转校验	文档：AutoMQ 数据中转校验

链路FAQ

• 如何打开 AutoMQ 源端心跳?

---

源端数据源

前置条件

条件	说明
网络准备	迁移同步节点（sidecar）可连接 AutoMQ 各节点

任务参数

参数名称	说明
schemaFormat	MQ 消息格式，文档：消息格式说明
consumerGroupId	AutoMQ 消费组 Id
consumeParallel	消费 AutoMQ 的并行度
sessonTimeoutMs	AutoMQ Session 超时时间（毫秒）
maxPollRecords	AutoMQ 一次最大拉取消息数量

Tips: 通用参数配置请参考 通用参数及功能

---

目标端数据源

前置条件

条件	说明
账号权限	具备 SELECT, INSERT, 常见 DDL 权限
网络准备	迁移同步节点（sidecar）可连接 ClickHouse 标准交互接口（如 8123）

任务参数

参数名称	说明
multiReplica	是否为多副本集群
clusterName	集群名称，当 multiReplica 为 true, 则自动在 DDL/DML 中加入 ON CLUSTER clusterName 子句
ckTableEngine	当前支持以下表引擎: MergeTree ReplacingMergeTree ReplicatedMergeTree ReplicatedReplacingMergeTree
autoOptimizeThresholdSec	定时优化表（optimize table final）间隔，<=0 则关闭此功能
enableTimeRangeClamping	是否启用时间范围裁剪,强制将时间和日期值收束到 ClickHouse JDBC 的合法区间内，超出的数值将被截断至最小值或最大值。默认关闭（false）。 收束后范围(UTC)： Date：[1970-01-01, 2149-06-06] Date32：[1925-01-01, 2283-11-11] Timestamp：[1970-01-01 00:00:00, 2106-02-07 14:28:15] Timestamp64：[1925-01-01 08:00:00.000, 2283-11-12 07:59:59.000]

Tips: 通用参数配置请参考 通用参数及功能