spark standalone模式 以cluster模式提交时找不到jar包

qq_23852677 2017-07-25 04:03:29
由于网络问题8081端口访问不了



jar包确实是存在的
...全文
622 3 打赏 收藏 转发到动态 举报
写回复
用AI写文章
3 条回复
切换为时间正序
请发表友善的回复…
发表回复
淘之夭夭2016 2018-05-03
  • 打赏
  • 举报
回复
spark-submit --master spark://xxxx:7077 \ --deploy-mode cluster \ --supervise \ --driver-memory 512m \ --total-executor-cores 1 \ --executor-memory 512m \ --executor-cores 1 \ --class xxx \ hdfs://xxx:8020/user/hutao/xxx.jar 注意:standalone 模式的 cluster 要把jar 文件传到hdfs上面去,因为driver在集群中的任意一个节点
eiffel_0311 2017-07-31
  • 打赏
  • 举报
回复
在master 是yarn 的时候, cluster 才好用 spark-submit --master yarn --deploy-mode cluster --class xxxxxxx xxxxx.jar
qq_23852677 2017-07-25
  • 打赏
  • 举报
回复
任务提交命令 spark-submit --master spark://master_ip:7077 --deploy-mode cluster --driver-memory 20g --class Main xxxxx.jar

51,410

社区成员

发帖
与我相关
我的任务
社区描述
Java相关技术讨论
javaspring bootspring cloud 技术论坛(原bbs)
社区管理员
  • Java相关社区
  • 小虚竹
  • 谙忆
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧