开发笔记:工具DataX

篇首语：本文由编程笔记#小编为大家整理，主要介绍了工具DataX相关的知识，希望对你有一定的参考价值。

参考资料
https://github.com/alibaba/Da...
mysqlwriter
DataX-MysqlWriter 插件文档

1. 简介

DataX 是阿里巴巴集团内被广泛使用的离线数据同步工具/平台，实现包括 MySQL、SQL Server、Oracle、PostgreSQL、HDFS、Hive、HBase、OTS、ODPS 等各种异构数据源之间高效的数据同步功能。

2. 安装

2.1 linux 下安装jdk并且配置环境变量

https://blog.csdn.net/xiaogua...

2.2 linux 下安装python2.7并且配置环境变量

https://www.python.org/downlo...

2.3 安装DataX

DataX下载地址

下载后解压至本地某个目录，进入bin目录，即可运行同步作业：

$ cd {YOUR_DATAX_HOME}/bin
$ python datax.py {YOUR_JOB.json}

自检脚本：

python {YOUR_DATAX_HOME}/bin/datax.py {YOUR_DATAX_HOME}/job/job.json

3. sql server 同步到mysql

主要配置{YOUR_DATAX_HOME}/job/job.json下的json文件

{
"job": {
"setting": {
"speed": {
"byte":10485760
},
"errorLimit": {
"record": 0,
"percentage": 0.02
}
},
"content": [
{
"reader": {
"name": "sqlserverreader",
"parameter": {
"username": "sa",
"password": "123456",
"connection": [
{
"jdbcUrl": [
"jdbc:sqlserver://10.0.201.255:1433;database=wzz"
],
"querySql": [
"SELECT userid,name,age FROM dbo.users"
]
}
]
}
},
"writer": {
"name": "mysqlwriter",
"parameter": {
"username": "lambdacal",
"password": "123456",
"column": [
"userid",
"name",
"age"
],
"connection": [
{
"jdbcUrl": "jdbc:mysql://10.0.0.0:3306/wzz_db?charset=utf8",
"table": [
"users"
]
}
]
}
}
}
]
}
}


执行

python ./datax/bin/datax.py ./datax/job/job.json

4. json文件写法

jdbcUrl

描述：目的数据库的 JDBC 连接信息。作业运行时，DataX 会在你提供的 jdbcUrl 后面追加如下属性：yearIsDateType=false&zeroDateTimeBehavior=convertToNull&rewriteBatchedStatements=true
注意：1、在一个数据库上只能配置一个 jdbcUrl 值。这与 MysqlReader 支持多个备库探测不同，因为此处不支持同一个数据库存在多个主库的情况(双主导入数据情况)
2、jdbcUrl按照Mysql官方规范，并可以填写连接附加控制信息，比如想指定连接编码为 gbk ，则在 jdbcUrl 后面追加属性 useUnicode=true&characterEncoding=gbk。具体请参看 Mysql官方文档或者咨询对应 DBA。
必选：是
默认值：无

username

描述：目的数据库的用户名
必选：是
默认值：无

password

描述：目的数据库的密码
必选：是
默认值：无

table

描述：目的表的表名称。支持写入一个或者多个表。当配置为多张表时，必须确保所有表结构保持一致。
注意：table 和 jdbcUrl 必须包含在 connection 配置单元中
必选：是
默认值：无

column

描述：目的表需要写入数据的字段,字段之间用英文逗号分隔。例如: "column": ["id","name","age"]。如果要依次写入全部列，使用表示, 例如: "column": [""]。
**column配置项必须指定，不能留空！**
注意：1、我们强烈不推荐你这样配置，因为当你目的表字段个数、类型等有改动时，你的任务可能运行不正确或者失败
2、 column 不能配置任何常量值
必选：是
默认值：否

session

描述: DataX在获取Mysql连接时，执行session指定的SQL语句，修改当前connection session属性
必须: 否
默认值: 空

preSql

描述：写入数据到目的表前，会先执行这里的标准语句。如果 Sql 中有你需要操作到的表名称，请使用 @table 表示，这样在实际执行 Sql 语句时，会对变量按照实际表名称进行替换。比如你的任务是要写入到目的端的100个同构分表(表名称为:datax_00,datax01, ... datax_98,datax_99)，并且你希望导入数据前，先对表中数据进行删除操作，那么你可以这样配置："preSql":["delete from 表名"]，效果是：在执行到每个表写入数据前，会先执行对应的 delete from 对应表名称
必选：否
默认值：无

postSql

描述：写入数据到目的表后，会执行这里的标准语句。（原理同 preSql ）
必选：否
默认值：无

writeMode

描述：控制写入数据到目标表采用 insert into 或者 replace into 或者 ON DUPLICATE KEY UPDATE 语句
必选：是
所有选项：insert/replace/update
默认值：insert

batchSize

描述：一次性批量提交的记录数大小，该值可以极大减少DataX与Mysql的网络交互次数，并提升整体吞吐量。但是该值设置过大可能会造成DataX运行进程OOM情况。
必选：否
默认值：1024