spark跨集群读取数据并计算

eric90g eric90g 墨衍会员 · AI 创作全网分发 墨衍智能分发 通过墨衍一键同步至各平台 可同步平台 CSDN微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年,写一次发全网 我也要 + 加入社区
有2个hdp集群,hdp1和hdp2,想让spark程序运行在hdp1上,读取hdp2上的数据,大神们有什么方案么?
目前尝试过把hdp2集群的hive-site.xml core-site.xml hdfs-site.xml放到hdp1上的一个spark的conf下,spark-sql可以访问,但是运行spark仅在local模式下可以运行,放在yarn上边,就会报java.net.UnknownHostException: xxxxxx(namenode HA的名字)
...全文

相关推荐

评论 3
收藏 已收藏
分享
返回顶部
eric90g
Spark 1,274 成员 1,171 内容