cuda内存传输速率问题

2020-09-02 08:06:46 706 阅读 AI 写同款 · GEO 优化AI 选题数据监测一键分发 ›

CUDA进阶资料专题（一）pinned memory 和 unified memory 内存分配的初步解释关于协调CPU和GPU之间的内存创建和分配以及传输 CPU分配内存 CPU分配内存主要有两种方式：通过C标准库中的malloc函数完成调用CUDA中的cudaMallocHost函数 cudaMallocHost函数通过页面锁定，可以提供更高的CPU和GPU传输速率，吞吐量增加是Barracuda10的2.4倍，Barracuda04的2.0倍，Barracuda01的1.5倍。但是缺点是使用cudaMallocHost分配内存比malloc更加慢，每次调用cudaMal 阅读详情

上图是使用cuda-z测出来的1650的内存数据传输速率，小弟有几个问题想问问大家

1、在cuda-z上分了device to host和host to device，这应该说明device和host之间的传输速率和传输方向有关吧，那这是什么因素导致的呢？

2、device to device的速率应该指的就是global到global的速率吧？我知道显存（也就是global）到GPU芯片的传输速率和显存带宽有关，那global到global的速率是和什么有关呢，它的瓶颈是什么？

...全文