spark on yarn 问题
spark通过yarn提交任务,任务没跑就停止了,8088页面显示成功,点击history显示
Shutdown hook called before final status was reported.查看了很久才发现,数据对接的数据格式改变了,我程序中有
if(StringUtils.isBlank(difference)){
System.exit(-1)
}else{
TimedTaskForBJJ.run(sqlContext,array)
SaveToMongo.saveMongo(sqlContext,Array("saveToMongoOnline",transferPath,mongoHost,database,mode))
}
程序中执行System.exit(-1) spark程序会正常停止,而且页面显示成功。
版权声明:本文为qq_14950717原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明。