社区
Java
帖子详情
spark standalone模式 以cluster模式提交时找不到jar包
qq_23852677
2017-07-25 04:03:29
由于网络问题8081端口访问不了
jar包确实是存在的
...全文
631
3
打赏
收藏
spark standalone模式 以cluster模式提交时找不到jar包
由于网络问题8081端口访问不了 jar包确实是存在的
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
3 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
淘之夭夭2016
2018-05-03
打赏
举报
回复
spark-submit --master spark://xxxx:7077 \ --deploy-mode cluster \ --supervise \ --driver-memory 512m \ --total-executor-cores 1 \ --executor-memory 512m \ --executor-cores 1 \ --class xxx \ hdfs://xxx:8020/user/hutao/xxx.jar 注意:standalone 模式的 cluster 要把jar 文件传到hdfs上面去,因为driver在集群中的任意一个节点
eiffel_0311
2017-07-31
打赏
举报
回复
在master 是yarn 的时候, cluster 才好用 spark-submit --master yarn --deploy-mode cluster --class xxxxxxx xxxxx.jar
qq_23852677
2017-07-25
打赏
举报
回复
任务提交命令 spark-submit --master spark://master_ip:7077 --deploy-mode cluster --driver-memory 20g --class Main xxxxx.jar
flink-
spark
-submiter:从本地IDEA
提交
Flink
Spark
任务到Yarnk8s集群
Flink任务、
Spark
任务
提交
到集群,通常需要将可执行Jar上传到集群,手动执行任务
提交
指令,如果有配套的大数据平台则需要上传Jar,由调度系统进行任务
提交
。 对开发者来说,本地IDEA调试Flink、
Spark
任务不涉及对象的序列化及反序列化,任务在本地调试通过后,执行在分布式环境下也可能会出错。 而将任务
提交
到集群进行调试还要走那些繁琐的流程太影响效率了。 因此,为方便大数据开发人员进行快速开发调试,开发了从本地IDEA
提交
Flink/
Spark
任务到集群的工具类。任务
提交
代码稍加改造后也可以和上层调度系统进行集成,替代脚本
模式
进行任务
提交
的方式。 支持Flink yarnPerJob、
Stan
dal
one 、yarnSession
模式
下的任务
提交
。 支持
Spark
任务以Yarn
Cluster
模式
提交
到YARN,支持自动上传用户
Jar包
,依赖的
Spark
Jars需要提前上传到H
解决
spark
stan
dal
one
模式
以
cluster
模式
提交
时
找
不到
jar包
问题
原submit
提交
脚本: #!/bin/bash
spark
-submit \ --class com.jxre.bigdata.
spark
s.SumIrradiateCalc \ --master
spark
://node1.sdp.cn:7077 \ --driver-memory 3G \ --deploy-mode
cluster
\ --supervise \ -...
Spark
中
Stan
dal
one的两种
提交
模式
(
Stan
dal
one-client
模式
与
Stan
dal
one-
cluster
模式
)
文章目录1.
Stan
dal
one-client
提交
任务方式执行流程总结2.
Stan
dal
one-
cluster
提交
任务方式执行流程总结须知
Spark
中
Stan
dal
one有两种
提交
模式
,一个是
Stan
dal
one-client
模式
,一个是
Stan
dal
one-
cluster
模式
。 1.
Stan
dal
one-client
提交
任务方式
提交
命令: ./
spark
-submit --master s...
spark
的
stan
dal
one的
cluster
模式
运行起hdfs和
spark
spark
的bin目录下,执行 默认client
模式
./
spark
-submit --master
spark
://linux01:7077 --executor-memory 1g --total-executor-cores 4 --class (args(0)) (args(1)) 数据所在位置:hdfs://linux01:8020/wc 输出路径:hdfs://linux01:8020/out args(0)--class 是指定main方法所在全列名,..
Spark
中
Stan
dal
one的两种
提交
模式
Spark
中
Stan
dal
one有两种
提交
模式
,一个是
Stan
dal
one-client
模式
,一个是
Stan
dal
one-
cluster
模式
。 1.
Stan
dal
one-client
提交
任务方式
提交
命令 ./
spark
-submit --master
spark
://node01:7077 --class org.apache.
spark
.examples.
Spark
Pi ../li...
Java
51,412
社区成员
86,033
社区内容
发帖
与我相关
我的任务
Java
Java相关技术讨论
复制链接
扫一扫
分享
社区描述
Java相关技术讨论
java
spring boot
spring cloud
技术论坛(原bbs)
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章