飞桨在大模型工程化方面的挑战与技术实践

m0_74120090 2024-05-17 17:06:21

课时名称课时知识点
飞桨在大模型工程化方面的挑战与技术实践大模型的发展为通用人工智能带来曙光。本报告将结合大模型的发展趋势与工程化挑战,介绍百度飞桨深度学习平台的最新进展,分享飞桨支撑大模型高效训练、推理的方法论与技术实践;同时秉承开源开放的理念,展望大模型时代下,携手广大开发者共建繁荣开源社区的广阔前景。
...全文
26 回复 打赏 收藏 转发到动态 举报
AI 作业
写回复
用AI写文章
回复
切换为时间正序
请发表友善的回复…
发表回复
2021 AI基础软件架构峰会PPT汇总,共29份。 AI基础设施软件技术横跨深度学习算法、编程语言、编译器、数据库、分布式系统、高性能网络和AI芯片等多个前沿领域,是当前学术界和产业界共同感到兴奋的新领域。 一、AI芯片及编译器 AI芯片软件栈技术挑战和初探 地平线在软硬件协同设计的一些实践 NVIDIA GPU架构下稀疏特性的实践挑战 二、深度学习框架 当我们谈论框架时,我们在谈论什么? 面向云计算的分布式机器学习优化实践 超大模型高效训练的分布式框架Whale 飞桨:源于产业实践的开源深度学习平台 MegEngine DTR 技术与训练框架技术创新 构建高效易用的图深度学习平台 三、端侧推理 Tengine-边缘AI异构计算平台 面向AIoT的深度学习框架MACE PNNX:PyTorch Neural Network Exchange MNN —— 功能完备的推理引擎 四、MLops及AI工程化落地 建立公开数据集标准,赋能AI工程化落地 字节跳动机器学习系统云原生落地与实践 OpenMLDB:为AI工程化落地高效供给正确数据 开源AI框架的程序接口设计 五、超大规模模型训练 快手八卦!突破 PyTorch、TensorFlow并行瓶颈的训练加速框架到底是啥? Maximizing Parallelism in Distributed Training for Huge Neural Networks 神舟大规模预训练模型 让大规模分布式深度学习变得更方便 六、互联网广告推荐 基于GPU的超大规模离散模型训练框架PaddleBox、FeaBox 浅谈点击率预测模型中Embedding层的学习和训练 XDL训练系统的演进 稀疏模型训练引擎-DeepRec 无量深度学习系统在腾讯推荐类业务的应用 七、前沿应用与基础架构 如何使用 JuiceFS 为 CV 模型训练提速 Milvus+Towhee:向量数据库及embedding流水线

2

社区成员

发帖
与我相关
我的任务
社区管理员
  • m0_74120090
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧