Kafka 到 PostgreSQL

选择对端数据库：

PostgreSQL

数据链路

基本功能

功能	说明
增量实时同步	支持订阅源端 Topic 的消息，并转换为 INSERT、UPDATE、DELETE DML
修改订阅	新增、删除、修改订阅 Topic，文档：修改订阅
重置位点	按 时间戳 回溯位点，重新消费过去一段时间的数据

高级功能

功能	说明
消息格式	支持以下消息格式，文档：消息格式说明 CloudCanal内置格式 AlibabaCanal兼容格式
0 值时间处理	支持将 0 值时间设置成不同类型的值，防止写入对端报错

限制和注意点

限制项	说明
目标端需要提前创建表	仅支持消息自动创建 Topic
原始消息格式	仅支持 Kafka 到 Kafka，且两端的消息格式都需要选择 原始消息格式
主键冲突处理	PostgreSQL <= 9.4 或 Greenplum <= 6, 因不支持冲突掠过或覆盖，当大量主键冲突场景下，性能较低

使用示例

标题	详情
跨互联网数据互通 (Kafka)	文档：跨互联网数据互通 (Kafka)
Kafka 数据中转校验	文档：Kafka 数据中转校验

链路FAQ

• 如何打开 Kafka 源端心跳?

---

源端数据源

前置条件

条件	说明
网络准备	迁移同步节点（sidecar）可连接 Kafka 各节点

任务参数

参数名称	说明
schemaFormat	MQ 消息格式，文档：消息格式说明
consumerGroupId	Kafka 消费组 Id
consumeParallel	消费 Kafka 的并行度
sessonTimeoutMs	Kafka Session 超时时间（毫秒）
maxPollRecords	Kafka 一次最大拉取消息数量
dbHeartbeatIntervalSec	配置对源端数据库发起心跳操作的间隔时长
dbHeartbeatToleranceStep	配置对源端数据库心跳操作可容忍的位点差值
customClientProps	自定义传入到 Kafka Client 参数，JSON 格式，key为参数名，value为参数值。此配置项以最高优先级生效。例如：AWS IAM 访问控制

Tips: 通用参数配置请参考 通用参数及功能

---

目标端数据源

前置条件

条件	说明
账号权限	具备 SELECT, INSERT, DELETE, UPDATE 常见 DDL 权限 阿里云 AnalyticDB for PostgreSQL 初始账号，或有 SELECT, INSERT, DELETE, UPDATE, 常见 DDL 权限
网络准备	迁移同步节点（sidecar）可连接 PostgreSQL / Greenplum / AnalyticDB for PostgreSQL / PolarDB for PostgreSQL 标准交互接口（如 5432）

任务参数

参数名称	说明
keyConflictStrategy	增量写入遇到主键冲突策略: IGNORE 冲突忽略（默认） REPLACE 冲突替换（可选）
dstWholeReplace	将 INSERT 和 UPDATE 操作变成对端的整行覆盖
enableTimeZoneProcess	是否对时间字段进行时区转换
timezone	目标端时区，例如 +08:00, Asia/Shanghai, America/New_York
defaultZeroDate	在遇到'0000-00-00 00:00:00' / '0000-00-00' 值时用于替换的默认值，可选参数有： null (空值) 时间 (14:23:33) 日期 (1970-01-01) 时间日期 (1970-01-01 00:00:00), 时区时间 (14:23:33+08:00 或 1970-01-01 00:00:00+08:00)
caseSensitive	对端写入SQL语句表名大小写策略，包含 UpperCase (转大写) LowerCase (转小写) Sensitive (添加限定符) NoSpecified (不转换/不加限定符)
writeStrategy	对端写入策略，包含 ROW (单条) MULTI_SQL (多语句) BATCH (批量，默认选项) COPY (PostgreSQL COPY 指令)
defaultGisSRID	设置 GIS 数据类型的 SRID

Tips: 通用参数配置请参考 通用参数及功能