Spark集群 Exception in thread "main" java.lang.NullPointerException的一个错误

sflotus 2016-12-12 04:25:32
在local模式下可以正常运行,放到集群中就出现如下错误:
Exception in thread "main" java.lang.NullPointerException
at com.quell.spark.pdfData$.main(pdfData.scala:27)
at com.quell.spark.pdfData.main(pdfData.scala)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
at java.lang.reflect.Method.invoke(Method.java:498)
at org.apache.spark.deploy.SparkSubmit$.org$apache$spark$deploy$SparkSubmit$$runMain(SparkSubmit.scala:731)
at org.apache.spark.deploy.SparkSubmit$.doRunMain$1(SparkSubmit.scala:181)
at org.apache.spark.deploy.SparkSubmit$.submit(SparkSubmit.scala:206)
at org.apache.spark.deploy.SparkSubmit$.main(SparkSubmit.scala:121)
at org.apache.spark.deploy.SparkSubmit.main(SparkSubmit.scala)

程序部分如下:

错误:

while (i < tempList.length) 个人看不出这个问题所在,求大牛相助
...全文
1928 2 打赏 收藏 转发到动态 举报
写回复
用AI写文章
2 条回复
切换为时间正序
请发表友善的回复…
发表回复
sflotus 2017-11-28
  • 打赏
  • 举报
回复
时间有点久了,记不清当时要处理的问题是什么了。 好像是这样的 val fs = fileSystem.listStatus(new Path(path)) val listPath = FileUtil.stat2Paths(fs)
Andys_hill 2017-11-25
  • 打赏
  • 举报
回复
我也遇到了这种问题,请问大佬解决了吗

1,258

社区成员

发帖
与我相关
我的任务
社区描述
Spark由Scala写成,是UC Berkeley AMP lab所开源的类Hadoop MapReduce的通用的并行计算框架,Spark基于MapReduce算法实现的分布式计算。
社区管理员
  • Spark
  • shiter
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧