DynamoDB
选择对端数据库:
DynamoDB
功能 | 说明 |
---|---|
全量数据迁移 | 逻辑迁移,通过顺序扫描表数据,将数据分批写入到对端数据库 |
增量实时同步 | 支持 INSERT, UPDATE, DELETE 常见 DML 同步 |
数据校验和订正 | 全量数据校验,并可选根据校验结果订正差异数据,支持定时,文档:创建定时校验订正任务 |
修改订阅 | 新增、删除、修改订阅表,支持历史数据迁移,文档:修改订阅 |
表名映射 | 支持 和源端保持一致, 转小写, 转大写, 以'_数字'后缀截取 |
元数据检索 | 从源端表查对端,查询设置过过滤条件的,查询设置过对端主键的 |
高级功能
功能 | 说明 |
---|---|
定时全量迁移 | 文档1:创建定时全量任务 |
自定义代码 | 文档1:创建自定义代码任务 |
设置目标主键 | 变更主键为其他字段,方便数据聚合等操作 |
任务参数
参数名称 | 说明 |
---|---|
fullFetchSize | 全量扫描数据设置的 fetch size |
eventStoreSize | 缓存解析完毕的增量事件缓存大小 |
incrPagingCount | 全量扫描每次查询数据总量 |
incrIdleSleepSecond | 增量同步空闲时查询间隔(单位:秒) |
incrScanIntervalMs | 设置增量同步数据查询间隔(单位:毫秒) |
shardDiscoveryIntervalSecond | 定期检查新 Shard 的时间间隔(单位:秒) |
streamsRetryCount | Streams 接口错误重试次数 |
streamsBackoffMinDelayMs | Streams 重试最小延迟 |
streamsBackoffMaxDelayMs | Streams 重试最大延迟 |
Tips: 通用参数配置请参考 通用参数及功能
任务参数
参数名称 | 说明 |
---|---|
writeParallel | 对端写入并发数,对迁移或者同步性能影响大 |
totalDataInMemMb | 攒批写入,内存中最大数据容量,超过此容量或超过 asyncFlushIntervalSec 则刷出数据到写入队列 |
asyncFlushIntervalSec | 攒批写入,等待刷出的间隔时间,超过此时间或超过 totalDataInMemMb 则刷出数据到写入队列 |
flushBatchMb | 单表最大攒批容量,超过此容量则刷出数据到写入队列 |
realFlushPauseSec | 刷出数据到 DynamoDB 的等待时间,0 则不等待 |
retryCount | 写入错误重试次数 |
retryWaitTimeMs | 写入错误重试等待时间(毫秒) |
maxBatchSize | 控制单次写入的条数上限 |
Tips: 通用参数配置请参考 通用参数及功能