文章 62
浏览 15135
DataX 预研

DataX 预研

DataX 预研 预研背景 DataX是一个异构数据源离线同步工具。 现场使用 ADMA 调度 DataX 来进行数据同步,计划用 D-Dolphin 替代 ADMA,因此 D-Dolphin 也需要支持 DataX。 我们已经给D-Dolphin开发了Synchronous任务,与DataX相比,Synchronous任务支持的数据源类型比较少。 D-Dolphin原生已经支持DataX任务了,不过还比较简陋,因此需要对这个任务进行改进。 DataX 介绍 DataX 是阿里巴巴开源的一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle 等)、HDFS、Hive、ODPS、HBase、FTP 等各种异构数据源之间稳定高效的数据同步功能。 项目地址:https://github.com/alibaba/DataX 设计理念 为了解决异构数据源同步问题,DataX将复杂的网状的同步链路变成了星型数据链路,DataX作为中间传输载体负责连接各种数据源。当需要接入一个新的数据源的时候,只需要将此数据源对接到DataX,便能跟已有的数据源做到无缝数据同步。如下图所示....

人民有信仰 民族有希望 国家有力量