spark跨集群读取数据并计算
有2个hdp集群,hdp1和hdp2,想让spark程序运行在hdp1上,读取hdp2上的数据,大神们有什么方案么?
目前尝试过把hdp2集群的hive-site.xml core-site.xml hdfs-site.xml放到hdp1上的一个spark的conf下,spark-sql可以访问,但是运行spark仅在local模式下可以运行,放在yarn上边,就会报java.net.UnknownHostException: xxxxxx(namenode HA的名字)
目前尝试过把hdp2集群的hive-site.xml core-site.xml hdfs-site.xml放到hdp1上的一个spark的conf下,spark-sql可以访问,但是运行spark仅在local模式下可以运行,放在yarn上边,就会报java.net.UnknownHostException: xxxxxx(namenode HA的名字)
...全文
相关推荐
tachyon 介绍
Tachyon是一种内存为中心的分布式文件系统,专门设计用于集群计算框架(例如Spark和MapReduce)来提供内存级别的跨集群文件共享服务。
Spark跨集群bulk load(6-2)
RDD是Spark的核心数据结构,而DataFrame和Dataset则提供了更高级的抽象,使得数据操作更加直观且性能更优。跨集群bulk load主要涉及数据的传输、存储和计算资源的管理。
spark-solr:使用SolrJ从Solr作为Spark RDD读取数据并将对象从Spark索引到Solr的工具
本文介绍了一个名为spark-solr的Maven POM文件,用于定义和配置该项目。该文件包含项目的元数据、依赖关系、构建与插件设置,以及开发和分发信息。项目目标是提供从Spark读取数据到Solr
spark读取hbase数据,并使用spark sql保存到mysql
本示例将详细介绍如何使用 Spark 从 HBase 中读取数据,并通过 Spark SQL 将其存储到 MySQL 数据库中。首先,让我们了解 Spark 与 HBase 的交互。
Spark和Hive的结合(让hive基于spark计算)
Spark和Hive的结合是大数据处理中常见的技术集成,它利用Spark的实时处理能力和Hive的数据仓库功能。Hive最初是基于Hadoop的数据仓库工具,而Spark则提供了更高效的数据处理性能。


