如何计算spark中某个文件的内存占用情况？

mumumuyanyanyan 2017-10-27 09:43:47

通过spark读取文件，如何计算或者查看该文件内存占用情况？
比如
val memory = sc.textFile("part-all0")

我想知道这个文件占用多大内存

...全文

779 1 打赏收藏转发到动态举报

写回复

用AI写文章

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

上海菁数信息——实时数字智能 2017-10-30

打赏
举报

1. 这个语句不会直接占用内存，在后面时才会加载进来，是惰性的 2. 集群环境中，会分散到多个节点上分摊使用内存，追踪的话需要看你时spark on yarn还是standalone不同的模式有不同的方式

Apache Spark 是专为大规模数据处理而设计的快速通用的计算引擎。Spark是UC Berkeley AMP lab (加州大学伯克利分校的AMP实验室)所开源的类Hadoop MapReduce的通用并行框架，Spark，拥有Hadoop MapReduce所具有的优点；但不同于MapReduce的是——Job中间输出结果可以保存在内存中，从而不再需要读写HDFS，因此Spark能更好地适用于数据挖掘与机器学习等需要迭代的MapReduce的算法。Spark 是一种与 Hadoop 相似的开源集群计算环境，但是两者之间还存在一些不同之处，这些有用的不同之处使 Spark 在某些工作负载方面表现得更加优越，换句话说，Spark 启用了内存分布数据集，除了能够提供交互式查询外，它还可以优化迭代工作负载。Spark 是在 Scala 语言中实现的，它将 Scala 用作其应用程序框架。与 Hadoop 不同，Spark 和 Scala 能够紧密集成，其中的 Scala 可以像操作本地集合对象一样轻松地操作分布式数据集。尽管创建 Spark 是为了支持分布式数据集上的迭代作业，但是实际上它是对 Hadoop 的补充，可以在 Hadoop 文件系统中并行运行。通过名为 Mesos 的第三方集群框架可以支持此行为。Spark 由加州大学伯克利分校 AMP 实验室 (Algorithms, Machines, and People Lab) 开发，可用来构建大型的、低延迟的数据分析应用程序。本部分内容全面涵盖了Spark生态系统的概述及其编程模型，深入内核的研究，Spark on Yarn,Spark RDD、Spark Streaming流式计算原理与实践，Spark SQL,Spark的多语言编程以及SparkR的原理和运行。本套Spark教程不仅面向项目开发人员，甚至对于研究Spark的在校学员，都是非常值得学习的。

Apache Spark 概述 Spark是一个快如闪电的统一分析引擎（计算框架）用于大规模数据集的处理。Spark在做数据的批处理计算，计算性能大约是Hadoop MapReduce的10~100倍，因为Spark使用比较先进的基于DAG任务调度，可以将一个任务拆分成若干个阶段，然后将这些阶段分批次交给集群计算节点处理。 MapReduce VS Spark MapReduce作为第一代大数据处理框架，在设计初期只是为了满足基于海量数据级的海量数据计算的迫切需求。自2006年剥离自Nutch（Java搜

Spark是基于内存计算的大数据并行计算框架。spark基于内存计算，提高了在大数据环境下数据处理的的实时性，同时保证了高容错性和高可伸缩性。 ---<<Spark大数据处理技术，应用与性能优化>...

Spark基础篇1、Spark有哪两种算子？2、Spark有哪些聚合类的算子，我们应该尽量避免什么类型的算子？3、如何从Kafka中获取数据？4、RDD创建有哪几种方式？5、Spark并行度怎么设置比较合适？6、Spark如何处理不能被序列化的对象？7、collect功能是什么，其底层是怎么实现的？8、为什么Spark Application在没有获得足够的资源，job就开始执行了，可能会导致什么什么问题发生？9、map与flatMap的区别？10、Spark on Mesos中，什么是的粗粒度分配，什么是

基于Spark 3.1.3

Spark

1,258

社区成员

1,168

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章