社区
数据结构与算法
帖子详情
map-reduce 计算效率的一般性算法分析
Turing_0
2012-07-17 03:16:55
想对map-reduce framework 的计算效率做一个一般性算法分析,比如某一类型的问题,搬到map-reduce framework上后,它的时间复杂度,空间复杂度的理论变化值。
有感兴趣的,有思路的同学欢迎讨论一下:)站内联系也可。
...全文
185
4
打赏
收藏
map-reduce 计算效率的一般性算法分析
想对map-reduce framework 的计算效率做一个一般性算法分析,比如某一类型的问题,搬到map-reduce framework上后,它的时间复杂度,空间复杂度的理论变化值。 有感兴趣的,有思路的同学欢迎讨论一下:)站内联系也可。
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
4 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
Turing_0
2012-07-18
打赏
举报
回复
首先感谢楼上两位参与,说DP有点特意为难并行了:) 不如说一个可用分治方法解决的问题,分布到N台机器构成的集群上后,理论上,集群内部每台机器的计算量是多少,集群内机器间通信量是多少,在用户看来,计算时间是多少... 有点抽象,可以一开始以某个具体问题为例子来讨论,不过最后我想得到的还是对各种类型的问题,他们在map-reduce框架下的计算效率的理论最优值...
FancyMouse
2012-07-18
打赏
举报
回复
其实这个尺度上真正该花功夫的是cluster的failover。并行算法大部分时间都是embarrassingly parallel的。
绿色夹克衫
2012-07-17
打赏
举报
回复
其实更值得讨论的是,如果运算可以分布到非常多的机器上,该如何设计算法。许多DP都需要依赖之前的计算结果,这为并行设置了很多障碍。
ourmeng19861001
2012-07-17
打赏
举报
回复
这个东西怎么计算时间复杂度 看你怎么分析数据了
你要是自己写代码进行mapreduce统计 那就要看你具体代码 空间这个东西 不晓得
大数据之
Map
-
reduce
大数据问题一般解决方式:利用哈希函数进行分流来解决内存限制或者其他限制的问题。 1. 哈希函数又叫散列函数,哈希函数的输入域可以是非常大的范围,但是输出域是固定范围。假设为s。 哈希...
Map
-
Reduce
原理详解
) 在
reduce
过程中,在列表中选择出最大的温度,将年-最大温度的key-value作为输出: (1950, 22) (1949, 111) (1937, 1) (1945, 78) 其逻辑过程可用如下图表示: 2、编写
Map
-
Reduce
程序 编写
Map
-
Reduce
程序,一般需要...
Map
Reduce
介绍
Map
Reduce
是一个用于大规模...用户定义一个
map
函数来处理一个Key-Value对以生成一批中间的Key-Value对,再定义一个
reduce
函数将所有这些中间的有相同Key的Value合并起来。很多现实世界中的任务都可用这个模型来表达。
Hadoop--
Map
Reduce
详解(
Map
、Shuffle、
Reduce
)
目录1、
Map
Reduce
概述1.1
Map
Reduce
是什么1.2
Map
Reduce
核心思想和简单过程1.3...
Map
Task并行度2.2.3 分区机制与
Reduce
Task并行度2.2.4 排序2.2.5
Map
Reduce
过程描述2.3
Map
Reduce
工作机制2.3.1
Map
Task工作机制2.3.2 S
Map
Reduce
(分布式数据
计算
模型)
Map
Reduce
将应用划分为
Map
和
Reduce
两个步骤,其中
Map
对数据集上的独立元素进行指定的操作,生成键-值对形式中间结果。
Reduce
则对中间结果中相同“键”的所有“值”进行规约,以得到最终结果。
Map
Reduce
这样的功能...
数据结构与算法
33,008
社区成员
35,326
社区内容
发帖
与我相关
我的任务
数据结构与算法
数据结构与算法相关内容讨论专区
复制链接
扫一扫
分享
社区描述
数据结构与算法相关内容讨论专区
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章