多线程同时调用GPU

bhy880709 2016-08-27 01:37:34

软件开通了两个线程，两个线程通过不同的对象分别调用GPU进行处理，现在遇到的问题是如果是单个线程调用就不会出现任何问题，但是两个线程同时使用的话，就会出现软件崩溃。请问能这样通过双线程调用GPU吗？如果可以请问怎么解决现有的问题

...全文

3090 1 打赏收藏转发到动态举报

写回复

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

sdu08039 2019-11-07

打赏
举报

回复

两个线程调用GPU核函数的话是不会有问题了，出现软件崩溃在于代码中存在人为错误，仔细排查

问题：就是CPUpthread_create创建多个线程，执行GPU代码，会不会有问题？[size=18.9999980926514px]答：没有任何问题的。你的这个模型（开多个CPU线程，每个线程单独处理1个stream上的kernel启动或者复制任务）其实是最经典的模型。完全无任何问题的。请大胆使用。最常见的是，只有1张卡的时候，同时使用2-3个线程，分别建立2-3个streams，处理该GP...

GPU也可以实现并发计算

本次测试目的仅仅为了尝试能否使用pthread实现多线程对CPU和GPU分别进行控制：　　文件结构如下：　　main.cc：控制线程的主函数　　vector.cu：实现对核函数进行调用的任务函数　　vector.h：任务函数声明　　vector_kernel.cu：核函数　　vector_kernel.h：核函数声明　　生成文件如下：

正如talonmies所说，将其调用放入lambda函数auto myFunc = [&](){cudaStream_t stream2;cudaSetDevice(device2);cudaStreamCreate (&stream2);vectorAdd_gpu <<>>(s.a1, s.a2, s.a2, s.flag);cudaStreamSynch...

问题：能否在主机端创建CPU多线程，在每个线程里调用设备端核函数的caller函数，进而实现进一步的并行运行。例如有5张图片，对于每张图片都有N个GPU线程对其进行像素操作，但是此时是逐一对这5张图片处理的，想在主机端创建5个CPU线程，每个线程里进行传输到设备端–>设备端GPU多线程处理–>结果返回主机端这一系列操作，实现五张图片同时处理此方法能否实现：不能只存在一个流时(默认的流)，所有调用核函数的指令将被存在一个队列中，依次执行。因此直接使用CPU多线程调用kernel函数不能

CUDA高性能计算讨论

353

社区成员

615

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章