X0390203039mysql_2020年寒假假期总结0203

使用sqoop将hive中的统计数据导入到mysql中

思路：首先在hive上创建临时表，然后将统计数据放在临时表中，最后通过sqoop将临时表中的数据导入到mysql中。

例子：将各个官方部门回答的数量都导入到mysql中。

1.在hive中创建capital_temp表

create table capital_temp(object string,

numint);

2.统计结果放入到临时表当中

insert capital_tempselect object,count(1) as num from capital_info group by object

3.因为每个hive的表都在hdfs上有文件存储，所以我们只需将hdfs上的数据导入到mysql上即可。

bin/sqoop export --connect \

jdbc:mysql://192.168.133.130:3306/holiday2020?useUnicode=true\&characterEncoding=utf-8 \

--username root --password heiyang123 --table capital_temp \--export-dir \/user/hive/warehouse/capital_temp/000000_0 --input-fields-terminated-by '\001'

注意点：

1.sqoop jdbc中含有参数 导致–-username: 未找到命令的错误

解决方案：在jdbc的URL中如果含有&字符，会出现–-username: 未找到命令的错误的报错信息，解决办法：在&字符前添加\即可。

2.sqoop导入报错Can't parse input data

解决方案：在sqoop命令中对于字符的分割形式出现了错误，我的数据分割符号是制表符“\t“，但是语句中写的是“，”，所以出现了以下的错误，改成自己的分割符号就好

3.sqoop导出报错Incorrect string value: '\xE5\xBC\xA0\xE6\x96\x87...'

解决方案：没有给mysql的字段设置编码，加上就好

alter table capital_temp change answerobject answerobject varchar(200) character set utf8;

4.sqoop导入数据之后查看数据，发现num没有数值，而是一起去了第一列，基本上确认问题所在：分隔符的问题。

解决方案：所以只需要将分隔符修改就行。

将原本命令中的--fields-terminated-by '\t'改为--fields-terminated-by '\001'