社区
石逸凡的课程社区_NO_1
机器学习的算法与实践
帖子详情
机器学习分布式计算框架：MR、MPI、参数服务器
石默研
2023-01-13 03:10:09
课时名称
课时知识点
机器学习分布式计算框架：MR、MPI、参数服务器
本节介绍机器学习常用的三种分布式计算框架，MR、MPI、参数服务器
...全文
114
回复
打赏
收藏
机器学习分布式计算框架：MR、MPI、参数服务器
课时名称课时知识点机器学习分布式计算框架：MR、MPI、参数服务器本节介绍机器学习常用的三种分布式计算框架，MR、MPI、参数服务器
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
分布式~深度学习
框架
搬来大佬的文章哦~~分布式深度学习
框架
目的只有一个：解决超大模型的训练问题，主要针对两种场景：一个具有超大规模的 dense（密集）
参数
的模型，比如 NLP、CV 等；另一个是具有超大规模 sparse（稀疏）
参数
的模型...
AI分布式训练系统：架构师必须了解的网络协议
简而言之，AI分布式训练系统是指将一个大规模的
机器学习
模型的训练任务，分解并分配到多个计算节点（通常是配备了GPU/TPU等加速芯片的
服务器
）上协同完成的系统。而网络协议，作为节点间数据传输的“语言”和“规则...
分布式存储与
分布式计算
总结很不错，就转过来... 一、高性能计算 目前自己知道的高性能计算工具，如下所示： Hadoop：Hadoop的
框架
最核心的设计就是：HDFS和MapReduce。HDFS为海量的数据提供了存储，则MapReduce为海量的数据提供了计算。 S
「大数据」Hadoop生态系统：
分布式计算
系统
Apache IgniteApache Ignite In-Memory Data Fabric是一个分布式内存平台，用于实时计算和处理大规模数据集。它包括分布式键值内存存储，SQL功能，map-reduce和其他计算，分布式数据结构，连续查询，消息和事件子...
用MapReduce实现
机器学习
小例
当然，已经有很多
框架
，比如
MPI
，Hadoop的Mahout，Spark ML、
参数
服务器
等等，在工程中可以供开发者使用，不过，如果要对用分布式来实现
机器学习
的方法论与过程有更深入的理解与掌握，自行编程进行相关方向的实验，...
石逸凡的课程社区_NO_1
2
社区成员
376
社区内容
发帖
与我相关
我的任务
石逸凡的课程社区_NO_1
北京大学博士后，BAT大型互联网公司大数据智能总监，第一界中国软件业十大杰出青年候选人，曾任重点大学计算机教师，20年以上人工智能算法应用、大数据、数据架构与中台等领域的实际项目开发、设计规划与授课经验，出版技术专著三部，美国工程索引IEEE EI论文6篇，自主软件版权一项，美国软件专利一项
复制链接
扫一扫
分享
社区描述
北京大学博士后，BAT大型互联网公司大数据智能总监，第一界中国软件业十大杰出青年候选人，曾任重点大学计算机教师，20年以上人工智能算法应用、大数据、数据架构与中台等领域的实际项目开发、设计规划与授课经验，出版技术专著三部，美国工程索引IEEE EI论文6篇，自主软件版权一项，美国软件专利一项
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章
发帖
与我相关
我的任务
分享
