做模型训练的时候，都建议使用GPU，但为什么构建深度学习模型需要使用GPU？

开开心心过大 2022-05-11 15:50:40

做模型训练的时候，都建议使用GPU，但为什么构建深度学习模型需要使用GPU？

...全文

1220 1 打赏收藏转发到动态举报

写回复

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

weixin_38498942 2022-05-12

打赏
举报

回复

神经网络的计算密集部分由多个矩阵乘法组成。那么如何才能更快？

我们可以简单地通过同时执行所有操作，而不是一个接一个地执行。这就是为什么我们要使用GPU（图形处理单元）而不是CPU（中央处理单元）来训练神经网络的原因。

亚马逊首席科学家李沐面对面亲自授课！硅谷超2000人现场实训，好评如潮，精华课程移师中国。一站式掌握AI核心技术，迅速上手深度学习应用。本培训基于2019年加州大学伯克利分校的《深度学习导论》课程，高度浓缩为1天精华课程。从基础到应用，让你用最短时间掌握深度学习轮廓，教你使用多个GPU甚至多台机器训练模型，并构建深度学习模型进行图片识别等上手操作。本培训课程共分四大部分，每部分讲解100分钟。晚上还安排了激动人心的Hackathon环节，将白天所学学以致用。

深度学习对GPU要求高吗？为什么深度学习要用GPU？实际上深度学习并不一定需要用GPU，只是如果不使用GPU，训练模型所耗的时间会变得巨长。GPU优势在于并行运算，而深度学习中的运算大部分都是矩阵运算 (矩阵运算就是并行运算的一种)。深度学习对GPU要求高吗？首先明确一点：GPU解决的并不是DL模型“能不能跑”的问题，而是“能跑多快”的问题。所以对于DL来说GPU并不必需。然而，如果你搞研究，别人两小时做完一次实验，你两星期……这就很尴尬了。所以只是玩个demo实际上并不一定非要GPU，比如CPU版的ten

在深度学习模型训练过程中，在服务器端或者本地pc端，输入nvidia-smi来观察显卡的GPU内存占用率（Memory-Usage），显卡的GPU利用率（GPU-util），然后采用top来查看CPU的线程数（PID数）和利用率（%CPU）。往往会发现很多问题，比如，GPU内存占用率低，显卡利用率低，CPU百分比低等等。接下来仔细分析这些问题和处理办法。 1. GPU内存占用率问...

GPU发展历史：1.加速卡（顶点处理仍在CPU完成，图像渲染受制于CPU的性能）；2.带有顶点处理功能的显卡：NVidia推出GeForce 256 显卡；3.可编程管线（Programable Function Pipeline）的引入：2001年的Direct3D 8.0【微软第一次引入】；4. 可编程管线出现；5.统一着色器架构

在深度学习当中，我们训练模型通常要对模型进行反复的优化训练，仅用CPU来进行训练的话需要花费很长时间，但是我们可以使用GPU来加速训练模型，这样就可以大大减少我们训练模型花费的时间。

Qualcomm 开发者论坛

948

社区成员

5,226

社区内容

发帖

与我相关

我的任务

人工智能物联网机器学习企业社区北京·东城区

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章