飞桨在大模型工程化方面的挑战与技术实践

m0_74120090 2024-05-17 17:06:21

课时名称课时知识点
飞桨在大模型工程化方面的挑战与技术实践大模型的发展为通用人工智能带来曙光。本报告将结合大模型的发展趋势与工程化挑战,介绍百度飞桨深度学习平台的最新进展,分享飞桨支撑大模型高效训练、推理的方法论与技术实践;同时秉承开源开放的理念,展望大模型时代下,携手广大开发者共建繁荣开源社区的广阔前景。
...全文
44 回复 打赏 收藏 转发到动态 举报
写回复
用AI写文章
回复
切换为时间正序
请发表友善的回复…
发表回复
2021 AI基础软件架构峰会PPT汇总,共29份。 AI基础设施软件技术横跨深度学习算法、编程语言、编译器、数据库、分布式系统、高性能网络和AI芯片等多个前沿领域,是当前学术界和产业界共同感到兴奋的新领域。 一、AI芯片及编译器 AI芯片软件栈技术挑战和初探 地平线在软硬件协同设计的一些实践 NVIDIA GPU架构下稀疏特性的实践挑战 二、深度学习框架 当我们谈论框架时,我们在谈论什么? 面向云计算的分布式机器学习优化实践 超大模型高效训练的分布式框架Whale 飞桨:源于产业实践的开源深度学习平台 MegEngine DTR 技术与训练框架技术创新 构建高效易用的图深度学习平台 三、端侧推理 Tengine-边缘AI异构计算平台 面向AIoT的深度学习框架MACE PNNX:PyTorch Neural Network Exchange MNN —— 功能完备的推理引擎 四、MLops及AI工程化落地 建立公开数据集标准,赋能AI工程化落地 字节跳动机器学习系统云原生落地与实践 OpenMLDB:为AI工程化落地高效供给正确数据 开源AI框架的程序接口设计 五、超大规模模型训练 快手八卦!突破 PyTorch、TensorFlow并行瓶颈的训练加速框架到底是啥? Maximizing Parallelism in Distributed Training for Huge Neural Networks 神舟大规模预训练模型 让大规模分布式深度学习变得更方便 六、互联网广告推荐 基于GPU的超大规模离散模型训练框架PaddleBox、FeaBox 浅谈点击率预测模型中Embedding层的学习和训练 XDL训练系统的演进 稀疏模型训练引擎-DeepRec 无量深度学习系统在腾讯推荐类业务的应用 七、前沿应用与基础架构 如何使用 JuiceFS 为 CV 模型训练提速 Milvus+Towhee:向量数据库及embedding流水线
精品推荐,QCon 2025全球软件开发大会上海站(脱敏)PPT合集,共67份。 1. 电商的千人千面素材生成实践 2. 前端工程 3.0:企业级智能研发与 Agent 系统落地 3. MegatronApp:面向万亿参数大模型的训练与推理增强实践 4. TRAE 的思考:AI 时代程序员的认知进化 5. 洞察技术趋势深耕AI价值 6. 湖流一体:基于 Fluss 和 Lance 构建实时多模态数据湖 7. 自增强优化的检索增强大模型技术-庞亮-v1 8. 多模态、多端 GUI 智能体 Mobile-Agent 的技术突破与实践 9. 蚂蚁大促场景下的全链路压测体系构建与保障实践 10. 动态化与参数化 RAG 技术探索 11. 从个人英雄到系统能力:技术卓越如何被复制 12. 从云原生迈向智能原生:蚂蚁中间件进化之路 13. 诸葛一本通(Datainsight Agent)在城商行业务分析的探索与实践 14. 基于Spec Driven范式,开发安全可控的SRE智能体 15. 氛围编程与规范开发-AI 编程的双驱动引擎 16. 释放生成式 AI 推理潜力:分布式 LLM 基础设施与 llm-d 实践 17. 多智能体驱动的企业级ChatBI 落地实践 18. 前端领域知识库构建与辅助代码研发中的创新实践 19. 基于Ray的AI工程化实践-大模型端到端的训推链路优化 20. The Rise of Visual Conversational AI 21. 火山引擎veCLI - 命令行超级智能体的最佳实践 22. 重塑可观测边界:小红书面向AI的稳定性工程实践 23. 从上下文到长期记忆:大模型记忆工程的架构设计与实践 24. 一码多端挑战下的新跨端方案思考与实践 25. AI 2.0 时代的大模型推理:从模型到硬件的协同优化 26. 飞桨模型推理实践:从集中式部署到分离式部署架构的演进 27. 火山引擎 Prometheus 面向大模型场景的优化实践 28. 钻木取火:AI时代Amazon工程师的新生产力范式转变 29. 大小模型协同驱动安全升级:基于大小模型协同的数字内容风控实践 30. AI+前端性能稳定性:快?亿级DAU下的智能诊断实践 31. 如何在浏览器内构建一个具身智能平台 32. 小米可观测性在AI基建的实践之路 33. 从人工到AI驱动-快手广告流量全链路可观测实践 34. Memory Engineering:Dify 在记忆工程上的探索 35. 突破泛化瓶颈:阿里云智能运维 Agent 评测体系实践 36. AI 领导力:像管理团队一样管理 AI 37. Get 笔记的断舍离清单拒绝过的那些“高级” AI 功能 38. 具身智能中的 VLA 技术及其应用 39. 终端大模型操作系统的架构、优化与展望 40. Next-Generation Software Development 41. 破解大模型推理成本难题:YRCache 以存代算加速实践 42. 面向未来的DevSecOps:Kodem 如何用AI重塑应用安全 43. Hunyuan-MT:腾讯混元轻量级大模型的翻译训练与优化实践 44. Snowflake keynote deck for QCon Shanghai 45. 开放世界中的多智能体协作与博弈(打造最高效的“AI团队”) 46. 从云原生到 AI 原生:模型引发的新一代基础设施构建 47. 大厂 SRE Agent 从 0 到 1 的降噪与排障实践 48. AI Coding 全新范式:NES 模型的推理、训练与评测实践 49. 克服企业应用人工智能的障碍 50. 从稳定到共情:对话式 AI 与硬件交互的技术探索 51. 客户端 AI Coding 实践:从 PRD 到代码直出 52. AniSora—动画视频生成技术应用 53. Vibe Coding 在代码生成和协作过程中的实践与思考 54. Trae Agent 架构演进:从 Workflow 到 Agentic Loop 55. veRL for Training Coding Agent 56. 亿级用户背后的智能诊断:多模态数据融合与实时诊断实践 57. 语音大模型:从级联到端到端 58. 为 Coding Agent 构建智能上下文:Qoder 的 Context Engineering 实践 59. 从客户痛点到工程化产品-火山方舟 PromptPilot 落地实践启示录 60. 超节点时代的开源基础软件构建实践 61. 元数据驱动:构建下一代智能数据架构的探索与实践 62. 蚂蚁 DeepInsight 智能分析 Agent 在业务场景的落地实践- final 63. 技术管理基本功修炼:从骨干到带队的转型实践 64. 隐私不上云,模型放心用:通过结构化语义标签实现隐私防火墙 65. 趣丸运维 AI Agent 自学习实践 66. AI CodeReview 实践:代码变更阶段的风险识别与阻断 67. RLinf:面向具身智能的可扩展与自适应大规模强化学习框架

2

社区成员

发帖
与我相关
我的任务
社区管理员
  • m0_74120090
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧