跳到主要内容

DynamoDB

选择对端数据库:

数据链路

基本功能

功能说明
全量数据迁移

逻辑迁移,通过顺序扫描表数据,将数据分批写入到对端数据库

增量实时同步

支持 INSERT, UPDATE, DELETE 常见 DML 同步

数据校验和订正

全量数据校验,并可选根据校验结果订正差异数据,支持定时,文档:创建定时校验订正任务

修改订阅

新增、删除、修改订阅表,支持历史数据迁移,文档:修改订阅

表名映射

支持 和源端保持一致, 转小写, 转大写, 以'_数字'后缀截取

元数据检索

从源端表查对端,查询设置过过滤条件的,查询设置过对端主键的

高级功能

功能说明
定时全量迁移

文档1:创建定时全量任务
文档2:定时全量实现增量数据迁移

自定义代码

文档1:创建自定义代码任务
文档2:自定义代码任务 debug
文档3:在自定义代码中打日志

设置目标主键

变更主键为其他字段,方便数据聚合等操作


源端数据源

前置条件

条件说明
账号权限

文档:DynamoDB 需要的权限

网络准备

迁移同步节点(sidecar)可连接 DynamoDB 标准交互接口

任务参数

参数名称说明
fullFetchSize

全量扫描数据设置的 fetch size

eventStoreSize

缓存解析完毕的增量事件缓存大小

incrPagingCount

全量扫描每次查询数据总量

incrIdleSleepSecond

增量同步空闲时查询间隔(单位:秒)

incrScanIntervalMs

设置增量同步数据查询间隔(单位:毫秒)

shardDiscoveryIntervalSecond

定期检查新 Shard 的时间间隔(单位:秒)

streamsRetryCount

Streams 接口错误重试次数

streamsBackoffMinDelayMs

Streams 重试最小延迟

streamsBackoffMaxDelayMs

Streams 重试最大延迟

Tips: 通用参数配置请参考 通用参数及功能


目标端数据源

前置条件

条件说明
账号权限

文档:DynamoDB 需要的权限

网络准备

迁移同步节点(sidecar)可连接 DynamoDB 标准交互接口

任务参数

参数名称说明
writeParallel

对端写入并发数,对迁移或者同步性能影响大

totalDataInMemMb

攒批写入,内存中最大数据容量,超过此容量或超过 asyncFlushIntervalSec 则刷出数据到写入队列

asyncFlushIntervalSec

攒批写入,等待刷出的间隔时间,超过此时间或超过 totalDataInMemMb 则刷出数据到写入队列

flushBatchMb

单表最大攒批容量,超过此容量则刷出数据到写入队列

realFlushPauseSec

刷出数据到 DynamoDB 的等待时间,0 则不等待

retryCount

写入错误重试次数

retryWaitTimeMs

写入错误重试等待时间(毫秒)

maxBatchSize

控制单次写入的条数上限

Tips: 通用参数配置请参考 通用参数及功能

数据链路

基本功能

高级功能

限制和注意点

使用示例

链路FAQ

源端数据源

前置条件

任务参数

目标端数据源

前置条件

任务参数