PolarDB for MySQL
| 功能 | 说明 |
|---|---|
结构迁移 | 如目标不存在所选表，则自动根据源端元数据，结合映射生成对端创建语句并执行创建 |
全量数据迁移 | 逻辑迁移，通过顺序扫描表数据，将数据分批写入到对端数据库 |
增量实时同步 | 支持 INSERT, UPDATE, DELETE 常见 DML 同步 |
数据校验和订正 | 全量数据校验，并可选根据校验结果订正差异数据，支持定时，文档：创建定时校验订正任务 |
修改订阅 | 新增、删除、修改订阅表，支持历史数据迁移，文档：修改订阅 |
增量位点回溯 | 支持按照文件位点、时间戳 回溯位点，重新消费过去一段时间或指定 Binlog 文件和位点开始的增量日志 |
表名映射 | 支持 和源端保持一致, 转小写, 转大写, 以'_数字'后缀截取 |
DDL 同步 |
|
元数据检索 | 从源端表查对端，查询设置过过滤条件的，查询设置过对端主键的 |
高级功能
| 功能 | 说明 |
|---|---|
Incremental Data Write Conflict Resolution Rule | IGNORE: Ignore conflicts (skip writing), REPLACE: Replace the entire row in case of conflicts. |
Handling of Zero Value for Time | Allow setting zero value for time to different data types to prevent errors when writing to the Target. |
Online DDL同步 | 支持 GH-OST, PT-OSC, Aliyun DMS Online DDL 同步，文档：支持 GH-OST 和 PT-OSC |
定时全量迁移 | 文档1：创建定时全量任务 |
全库同步 | 支持源端新建、删除、修改表的 DDL 和数据同步，文档：创建全库同步任务 |
自定义代码 | 文档1：创建自定义代码任务 |
数据过滤条件 | 支持 WHERE 条件进行数据过滤，内容为 SQL 92 子集，文档：创建数据过滤任务 |
设置目标主键 | 变更主键为其他字段，方便数据聚合等操作 |
限制和注意点
| 限制项 | 说明 |
|---|---|
Character Set | Support utf8, utf8mb4, latin1. Other encodings have not been tested. |
字符集 | 支持 utf8, utf8mb4, latin1,其他编码暂未测试 |
前置条件
| 条件 | 说明 |
|---|---|
Permissions for Account | A privileged account or a normal account with read and write permissions of PolarDbMySQL. |
Enable Binlog | In the PolarDbMySQL instance, click Details > Configuration and Management > Parameter Configuration > Set the value of loose_polar_log_bin to true. |
Character Set | Support utf8, utf8mb4, latin1. Other encodings have not been tested. |
任务参数
| 参数名称 | 说明 |
|---|---|
parseBinlogParallel | Number of threads for parallel parsing of Binlog in Incremental DataJobs. |
parseBinlogBufferSize | Size of the circular buffer for parsing Binlog in Incremental DataJobs. |
maxTransactionSize | Maximum number of data rows per transaction. If exceeded, the transaction will be split and flushed in parts. |
limitThroughputMb | Limit the throughput of incremental Binlogs. |
extraDDL | Support synchronization of additional DDL, including PT, GHOST, ALI_DMS, and PT_GHOST. |
needJsonEscape | Escape special characters in JSON to be written to the target database. |
Tips: 通用参数配置请参考 通用参数及功能
前置条件
| 条件 | 说明 |
|---|---|
Permissions for Account | A privileged account or a normal account with read and write permissions of PolarDbMySQL. |
Port Preparation | Allow the migration and sync node (Worker) to connect to the PolarDbMySQL port (e.g., 3306). |
任务参数
| 参数名称 | 说明 |
|---|---|
keyConflictStrategy | Strategy for handling primary key conflicts during write in Incremental DataTask:
|
dstWholeReplace | Convert INSERT and UPDATE operations into full row replacement in the Target. |
mergeMaxInsertSize | When the parallel strategy mergeMaxInsertSize is set to TABLE_IMPORT_OPTIMIZE, it defines the maximum number of rows to merge per batch for the same table (improve parallelism). |
Tips: 通用参数配置请参考 通用参数及功能