cuda会导致后续的cpu程序变慢？

bingbingzhe 2015-03-09 05:14:13

最近我遇到一个问题，在我的程序中把矩阵求逆和矩阵乘法放到GPU算，算完之后，再回到CPU算IFFT，但是发现，后面cpu算IFFT的时候慢了很多，如整个过程中全是CPU运算，那么IFFT需要5s，但是加上GPU后，IFFT需要20s，请问这是什么问题呢？
有可能是哪个方面引起的呢？

...全文

554 1 打赏收藏转发到动态举报

写回复

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

小数123 2015-03-20

打赏
举报

回复

你说的20s包括GPU运算时间吗？是不是计时把GPU的也包含进去了？

TensorFlow 是世界上最受欢迎的开源机器学习框架，它具有快速、灵活并适合产品级大规模应用等特点，让每个开发者和研究者都能方便地使用人工智能来解决多样化的挑战。文档为CPU版本和GPU版本搭建过程

选自Github作者：Santosh Gupta机器之心编译参与：杜伟、一鸣、泽南机器学习中，有一个限制速度的环节，那就是从 CPU 到 GPU 之间的张量迁移。很多计算只能在 CPU 上进行，然后迁移到 GPU 进行后续的训练工作，因此迁移中如果速度太慢，则会拖累整个模型的训练效率。近日，有一位开发者开源了针对 PyTorch 的 CPU->GPU 迁移工具，相比原版加速了 110 倍之多...

这几天收拾准备准备GUP“库达”计算，开学搞搞计算机图形图像处理。暂且不说安装问题了，简单的一批，而我在那里懵逼了好几天一直在看关于显卡CPU的基础概念（承认这几天有在肥宅快乐）。所以我温习一遍笔记打我一次。 CUDA编程 1. 1核函数定义：在GPU进行的函数通常称为核函数一般通过__global__修饰（在核函数里，都用双下划线来修饰），调用通过<<<参数1，参数2 &...

并行程序的执行速度在很大程度上取决于程序的资源需求与硬件的资源限制。在几乎所有并行编程模型中，管控并行代码与硬件资源约束之间的相互影响对于实现高性能非常重要的。这是一种实用的技能，需要对硬件体系结构有深刻理解，并需要在为高性能设计的并行编程模型下不断练习。到目前为止，我们已经了解了GPU架构的各个方面及其对性能的影响。在前面的CUDA编程04 - GPU计算架构和线程调度。

CUDA C++ 最佳实践指南 (nvidia.com)2. 异构计算CUDA C++ 最佳实践指南 (nvidia.com)2. 异构计算CUDA 编程涉及在两个不同的平台上同时运行代码：具有一个或多个 CPU 的主机系统和一个或多个支持 CUDA 的 NVIDIA GPU设备。虽然 NVIDIA GPU 经常与图形相关联，但它们也是强大的算术引擎，能够并行运行数千个轻量级线程。此功能使它们非常适合可以利用并行执行的计算。

CUDA高性能计算讨论

357

社区成员

615

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章