sqoop在导出数据到Mysql时报错"None"
需求:将其他部门提供的数据导出到指定Mysql库
因为一开始的需求是原样导出所以就按需求直接导出到Mysql,但是一直在报错
在查看数据内容时看到在hive中有’None’的字符串,None在Python中表示空,用sqoop导出时会报错
增加对空和空字符串做处理也解决不了
--null-string '\\N'
--null-non-string '\\N'
但是在hive到hdfs时可以对字段进行处理
insert overwrite directory 'load/path' row format delimited fields terminated by '\t'
select
if(name='None','\\None',name)
from table_name;
这样处理后发现三张表中有两张是导出成功的,第三张还是会报错,还好需求改掉了,可以在hive内部清洗一次,直接把’None’替换成null导出.
版权声明:本文为qq_42211003原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明。