Addax 异构数据同步

最后更新于:2022-04-02 03:07:51

[TOC] > [官网文档](https://wgzhao.github.io/Addax/develop/) ## 概述 - Addax 是一个异构数据源离线同步工具 - 包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能。 ![](https://docs.gechiui.com/gc-content/uploads/sites/kancloud/7c/29/7c29e8ad9525997bcf22d07667098cf0_1213x441.png) 框架设计 ![](https://docs.gechiui.com/gc-content/uploads/sites/kancloud/46/5c/465c4c2bde5f5f953512ff8b352ae052_934x177.png) Addax本身作为离线数据同步框架,采用 Framework + plugin 架构构建。将数据源读取和写入抽象成为 Reader/Writer 插件,纳入到整个同步框架中。 * Reader:Reader 为数据采集模块,负责采集数据源的数据,将数据发送给Framework。 * Writer: Writer 为数据写入模块,负责不断向Framework取数据,并将数据写入到目的端。 * Framework:Framework用于连接reader和writer,作为两者的数据传输通道,并处理缓冲,流控,并发,数据转换等核心技术问题。
';