MySQL 到 Tunnel
CloudCanal 支持从 MySQL 到 Tunnel 的数据迁移、同步、校验和链路能力。
| 功能 | 说明 |
|---|---|
结构迁移 | 如目标不存在所选表，则自动根据源端元数据，结合映射生成对端创建语句并执行创建 |
全量数据迁移 | 逻辑迁移，通过顺序扫描表数据，将数据分批写入到对端数据库 |
增量实时同步 | 支持 INSERT, UPDATE, DELETE 常见 DML 同步 |
重置位点 | 支持按照文件位点、时间戳 回溯位点，重新消费过去一段时间或指定 Binlog 文件和位点开始的增量日志 |
表名映射 | 支持 和源端保持一致, 转小写, 转大写, 以'_数字'后缀截取 |
DDL 同步 |
|
元数据检索 | 从源端表查对端，查询设置过过滤条件的，查询设置过对端主键的 |
高级功能
| 功能 | 说明 |
|---|---|
自定义代码 | 文档1：创建自定义代码任务 |
设置目标主键 | 变更主键为其他字段，方便数据聚合等操作 |
数据过滤条件 | 支持 WHERE 条件进行数据过滤，内容为 SQL 92 子集，文档：创建数据过滤任务 |
限制和注意点
| 限制项 | 说明 |
|---|---|
MySQL 存储引擎 | 支持 InnoDB, MySIAM, 阿里云 XEngine, 其他存储引擎暂未测试 |
MySQL 字符集 | 支持 utf8, utf8mb4, latin1, 其他编码暂未测试 |
使用示例
| 标题 | 详情 |
|---|---|
跨互联网数据同步 | 文档：跨互联网数据同步 |
跨互联网数据同步进阶 | 文档：跨互联网数据同步进阶 |
前置条件
| 条件 | 说明 |
|---|---|
账号权限 | |
开启 Binlog | [mysqld] |
任务参数
| 参数名称 | 说明 |
|---|---|
parseBinlogParallel | 增量解析 Binlog 的并发数 |
parseBinlogBufferSize | 用于增量解析 Binlog 的环形队列大小 |
maxTransactionSize | 单事务最大数据条数，超过则分段刷出 |
limitThroughputMb | 限制增量 Binlog 流量 |
extraDDL | 兼容额外的 DDL 同步，包括 PT, GHOST, ALI_DMS, PT_GHOST |
fullDataSqlConditionEnabled | 将过滤条件拼入 SQL 中进行源端数据扫描，此参数只针对全量迁移有效 |
srcTimeZone | 源端时区，例如 +08:00, Asia/Shanghai, America/New_York 等 |
Tips: 通用参数配置请参考 通用参数及功能
任务参数
| 参数名称 | 说明 |
|---|---|
writeParallel | 对端写入并发数，对迁移或者同步性能影响大 |
batchWriteSize | 消息内最大记录条数 |
deCycle | 是否开启防循环逻辑 |
deCycleFlag | 默认防循环标记 |
protocol | Tunnel 传输数据使用的交互协议，目前支持 HTTP |
uriPrefix | Tunnel 数据源 uri 前缀 |
contentCompressType | Tunnel 数据源的数据压缩类型,目前支持 DeInflater / GZIP |
dbs | 数据源结构定义 |
printDataInLog | 是否将关键数据打印到日志以方便排查问题，此选项打开可能影响性能和数据安全 |
schemaFormat | Value Schema 类型 |
printCustomCodeDebugLog | 打印自定义代码DEBUG日志(会打印处理前后数据，同步量大会增加磁盘使用和影响同步性能，请知悉)，该参数动态生效，不需要重启任务 |
Tips: 通用参数配置请参考 通用参数及功能
