spark of odps 的日志报错排查

开源的spark估计大多人都会使用ui界面来排查日志。
但是odps【阿里云】集成的spark,当提交了任务之后,有些时候控制台都打印报错了,但是点击UI界面发现每一个executor都是成功的,没有失败的。下面就一起来看看吧

🤔

logview

排查日志的第一个界面。
在这里插入图片描述
点击图中Detail,便可以看到如下界面,之后点击红圈处便可以看到具体的日志。
在这里插入图片描述

寻找报错executor

一般排查问题都需要寻找报错节点,但是odps spark的节点显示不会报错,只有未完成和已完成,这里可以从已完成的节点中,按照时间倒序,依次看节点日志是否有报错。【原因是报错一般是处于最近完成节点,早些完成的节点既然完成未报错,那么应该没问题】
下图是寻找到的报错日志:
在这里插入图片描述

spark UI

这个就不多说了,大家应该都会用。
在这里插入图片描述

Logo

开放原子开发者工作坊旨在鼓励更多人参与开源活动,与志同道合的开发者们相互交流开发经验、分享开发心得、获取前沿技术趋势。工作坊有多种形式的开发者活动,如meetup、训练营等,主打技术交流,干货满满,真诚地邀请各位开发者共同参与!

更多推荐