关于Google的三个大数据处理系统

qq_44934594 2019-04-18 06:37:46
谷歌的三个大数据处理系统分别是:Mapreduce、Bigtable、GFS。这三种系统的开放都是基于处理海量的大数据,以便于人们对数据的处理与利用。谷歌利用这三个系统为其技术的发展带来了极大的促进与飞跃,而且也方便了用户对资源的快速提取与利用。谷歌的这一发展在某种程度上促进了人类科技的发展进程。下面具体介绍一下关于这三个数据处理系统的功能及运行原理。 Mapreduce是一种基于如何分割输入数据,并进行并行化处理的一种有效利用分布式系统丰富资源的编程模型。其具体的运行原理有:首先创建Map函数然后通过Map函数处理key/value pair数据,然后输出中间的基于key/value数据集合。同时创建Reduce函数以达到合并中间相同的key value值。MapReduce函数最大的优点就是可以将输入数据自动分割为M个数据片段的集合,然后在多台机器上执行指令。Map Reduce模型的成功使用并运行给人们的生活带来了极大的便利,其主要应用于大规模的机器学习和解决产品的集群问题等等。
...全文
407 1 打赏 收藏 转发到动态 举报
写回复
用AI写文章
1 条回复
切换为时间正序
请发表友善的回复…
发表回复
吉普赛的歌 2019-04-18
  • 打赏
  • 举报
回复
感谢分享, 建议写成博客

11,850

社区成员

发帖
与我相关
我的任务
社区描述
MS-SQL Server 非技术版
社区管理员
  • 非技术版社区
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧