CUDA流异步拷贝失败

Lehe_four 2019-10-12 05:21:32

大家好。我想问个问题。QwQ
在我的电脑上用流，想重叠内存拷贝和核函数的运算时间。但是拷贝在所有核函数都完成之后才开始，我用的函数是cudaMemcpyAsync，在别人的电脑上运行我的exe也可以成功重叠这个时间。
在我的电脑上跑成这样QwQ

然后把我的显卡插在别人的电脑上也可以正常跑，在另外一个硬件配置相同的电脑上运行也可以跑T0T我的电脑上换张卡也不能正常跑QwQ
我也尝试过换驱动TOT 反正就是我的电脑上跑不了
不知道是不是和主机的什么环境配置有关系TOT
有没有大佬可以提供一下我的排查思路
救救孩子吧感恩QWWWWWWWQ

...全文

69 回复打赏收藏转发到动态举报

写回复

回复

切换为时间正序

请发表友善的回复…

发表回复

CUDA 示例所有示例都使用驱动程序 API。设备查询此示例列举了系统中存在的 CUDA 设备的属性。带宽测试此示例针对传输大小为 3KB、15KB、15MB 和 100MB 的可分页、页面锁定和写入组合内存测量主机到设备和设备到主机复制带宽，并以 CSV 格式输出它们。吉特此示例 jit-in-time 编译 .ptx 并输出错误日志和信息日志。零拷贝此示例使用零复制将主机指针映射到设备指针，以便内核可以直接读取和写入固定系统内存。矢量相加此示例使用异步 API、动态 ptx 版本选择以及常量和共享内存来添加两个浮点向量。超Q 此示例使用多个流来利用 HyperQ 技术。多设备此示例使用多个设备来并行化计算。

CUDA 提供同步对象来管理异步数据移动并将其与计算重叠。的 API 文档在 libcudacxx API 中提供。流水线对象是一个具有头尾的双端 N 阶段队列，用于按照先进先出 (FIFO) 的顺序处理工作。管道对象具有以下成员函数来管理管道的各个阶段。在前面的示例中，我们展示了如何使用和进行异步数据传输。在本节中，我们将使用带有单个阶段的 API 来调度异步拷贝。稍后我们将扩展此示例以显示多阶段重叠计算和复制。 2. 使用多个阶段的异步拷贝在前面带有和的示例中，内核线程立即等待

FFmpeg+CUDA硬件加速原理与案例实战FFmpeg系列之35FFmpeg第2季编解码专题之5：FFmpeg+CUDA硬件加速原理与案例实战本课程主要讲解的知识点包括：GPU高性能编程CUDA入门、CUDA编程模型的原理解析、CUDA编程小白案例入门实战、CUDA官方经典案例实战与解析、FFmpeg+CUVID硬件加速原理与命令行、Qt+FFmpeg实现cuda硬解码加速代码实战等。---------------------------------------------------------------目前FFmpeg第二季【编解码专题】，主要包括以下课程：FFmpeg4.3系列之31：图像格式与压缩FFmpeg4.3系列之32：MPEG-1/2视频编解码FFmpeg4.3系列之33：H.264/H.265视频编码FFmpeg4.3系列之34：FFmpeg+DXVA2+D3D硬件加速FFmpeg4.3系列之35：FFmpeg+CUDA硬件加速

CUDA 11 引入了带有 API 的异步数据操作，以允许设备代码显式管理数据的异步复制。功能使 CUDA 内核能够将计算与数据传输重叠。 API 在和头文件中提供。 API 与和同步原语一起使用，而使用进行同步。这些 API 具有非常相似的语义：将对象从复制到，就好像由另一个线程执行一样，在完成复制后，可以通过或进行同步。 API 文档和一些示例中提供了和的重载的完整 API 文档。的 API 文档在文档的合作组部分中提供。使用和的 API 需

CUDA中得异步并发 CUDA 将以下操作公开为可以彼此同时操作的独立任务：在主机上计算；设备上的计算；从主机到设备的内存传输；从设备到主机的内存传输；在给定设备的内存中进行内存传输；设备之间的内存传输。这些操作之间实现的并发级别将取决于设备的功能和计算能力，如下所述。主机和设备之间的并发执行在设备完成请求的任务之前，异步库函数将控制权返回给宿主线程，从而促进了主机的并发执行。使用异步调用，许多设备操作可以在适当的设备资源可用时排队，由CUDA驱动程序执行。这减轻了主机线程管理设备的

CUDA高性能计算讨论

353

社区成员

615

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章