AutoMQ 到 PostgreSQL

CloudCanal 支持从 AutoMQ 到 PostgreSQL 的数据迁移、同步、校验和链路能力。

选择对端数据库：

PostgreSQL

数据链路

基本功能

功能	说明
增量实时同步	支持订阅源端 Topic 的消息，并转换为 INSERT、UPDATE、DELETE DML
修改订阅	新增、删除、修改订阅 Topic，文档：修改订阅
重置位点	按 时间戳 回溯位点，重新消费过去一段时间的数据

高级功能

功能	说明
消息格式	支持以下消息格式，文档：消息格式说明 CloudCanal内置格式 AlibabaCanal兼容格式
0 值时间处理	支持将 0 值时间设置成不同类型的值，防止写入对端报错

限制和注意点

限制项	说明
目标端需要提前创建表	仅支持消息自动创建 Topic
原始消息格式	仅支持 AutoMQ 到 AutoMQ，且两端的消息格式都需要选择 原始消息格式
主键冲突处理	PostgreSQL <= 9.4 或 Greenplum <= 6, 因不支持冲突掠过或覆盖，当大量主键冲突场景下，性能较低

使用示例

标题	详情
CloudCanal x AutoMQ 数据迁移同步	文档：CloudCanal x AutoMQ 数据迁移同步
跨互联网数据互通 (AutoMQ)	文档：跨互联网数据互通 (AutoMQ)
AutoMQ 数据中转校验	文档：AutoMQ 数据中转校验

链路FAQ

• 如何打开 AutoMQ 源端心跳?

---

源端数据源

前置条件

条件	说明
网络准备	迁移同步节点（sidecar）可连接 AutoMQ 各节点

任务参数

参数名称	说明
schemaFormat	MQ 消息格式，文档：消息格式说明
consumerGroupId	AutoMQ 消费组 Id
consumeParallel	消费 AutoMQ 的并行度
sessonTimeoutMs	AutoMQ Session 超时时间（毫秒）
maxPollRecords	AutoMQ 一次最大拉取消息数量

Tips: 通用参数配置请参考 通用参数及功能

---

目标端数据源

前置条件

条件	说明
账号权限	具备 SELECT, INSERT, DELETE, UPDATE 常见 DDL 权限 阿里云 AnalyticDB for PostgreSQL 初始账号，或有 SELECT, INSERT, DELETE, UPDATE, 常见 DDL 权限
网络准备	迁移同步节点（sidecar）可连接 PostgreSQL / Greenplum / AnalyticDB for PostgreSQL / PolarDB for PostgreSQL 标准交互接口（如 5432）

任务参数

参数名称	说明
keyConflictStrategy	增量写入遇到主键冲突策略: IGNORE 冲突忽略（默认） REPLACE 冲突替换（可选）
dstWholeReplace	将 INSERT 和 UPDATE 操作变成对端的整行覆盖
enableTimeZoneProcess	是否对时间字段进行时区转换
timezone	目标端时区，例如 +08:00, Asia/Shanghai, America/New_York
defaultZeroDate	在遇到'0000-00-00 00:00:00' / '0000-00-00' 值时用于替换的默认值，可选参数有： null (空值) 时间 (14:23:33) 日期 (1970-01-01) 时间日期 (1970-01-01 00:00:00), 时区时间 (14:23:33+08:00 或 1970-01-01 00:00:00+08:00)
caseSensitive	对端写入SQL语句表名大小写策略，包含 UpperCase (转大写) LowerCase (转小写) Sensitive (添加限定符) NoSpecified (不转换/不加限定符)
writeStrategy	对端写入策略，包含 ROW (单条) MULTI_SQL (多语句) BATCH (批量，默认选项) COPY (PostgreSQL COPY 指令)
defaultGisSRID	设置 GIS 数据类型的 SRID

Tips: 通用参数配置请参考 通用参数及功能