学习热门新技术“模型并行”，限时 3 折抢 NVIDIA DLI 实战培训

[AI_CUDA_Training]

《模型并行 —— 构建和部署大型神经网络》

实时授课答疑 | GPU 实验环境 | NVIDIA 培训证书 | 3 折 GTC 特惠

✅以Megatron和DeepSpeed为例，训练超大模型，实现在多节点多GPU上运行，优化计算和通信效率
✅亲手完成CV和NLP模型训练、以及大模型通过Triton的部署与应用

超大型的深度神经网络 (DNN)，无论是用于自然语言处理 (如 GPT-3)、计算机视觉 (如规模巨大的视觉 Transformer)，还是语音 AI (如 Wave2Vec 2)，都具有区别于其较小规模同类模型的特殊属性。基于海量数据集训练出来的 DNN 的规模越来越大，使得它们只需再经过少量示例训练就能够适应新任务要求，从而加快了向通用人工智能的迈进。使用庞大的数据集，训练包含数百亿到千亿参数的模型并非易事，这需要独特的方法来综合运用人工智能、高性能计算 (HPC) 和系统知识。本课程的目标就是学习如何训练超大型的神经网络并将其部署到生产中。

【学习目标】

完成本课程后，您将能够：

• 跨多个服务器训练神经网络
• 使用激活检查点、梯度累积和各种形式的模型并行等技术，来克服与大型模型内存占用相关的挑战
• 捕获并了解训练性能特征以优化模型架构
• 使用 NVIDIA Triton™ 推理服务器将超大型多 GPU 模型部署到生产环境

【课程安排】

• 上课时间：中国时间 9 月 23 日 全天
• 上课模式：讲师实时授课，每位学员可使用云端完全配置的 GPU 加速工作站实验练习
• 上课地点：在线
• 课程名称：模型并行 —— 构建和部署大型神经网络
• 课程简介：综合运用人工智能、高性能计算 (HPC) 和系统知识，训练和部署超大型神经网络模型
• 课程大纲：点此查看
• 课程语言：中文
• 限时售价：999 元人民币 (包含增值税发票；此课程日常价格为 3,500 元)

【如何报名】

1. 点此打开 GTC DLI 官网
2. 报名 GTC 大会后，选择购买 DLI 培训，完成付款

席位有限，先到先得哦~~~

 

[CSDN-Ada助手]

您可以前往 CSDN问答-人工智能 发布问题, 以便更快地解决您的疑问