CUDA中一个SM如果包含了多个线程块

考完高考high起来 2020-12-22 03:58:29

那么这个SM是一个线程块一个线程块的进行处理呢，即对第一个线程块取一个线程束，处理完之后对这个线程块的第二个线程束处理。
还是每个线程块，各取几个线程，组合成一个线程束进行处理。
还是第一个线程块的第一个线程束处理完之后，从另一个线程块中选择一个线程束进行处理？

...全文

780 回复打赏收藏转发到动态举报

写回复

回复

切换为时间正序

请发表友善的回复…

发表回复

CUDA的执行模型包括grid、block和thread，其中block由多个thread组成，多个block组成grid。在硬件层面，StreamingMultiprocessors (SM) 执行线程块中的线程束(warp)，每个warp包含32个thread。SM会自动将thread分组为warp，并在需要时切换以隐藏延迟，提高并行计算效率。当thread数量非32的倍数时，最后的warp可能未满载，导致计算资源浪费。SM可以同时处理多个block，通过warp切换保持忙碌状态，以最大化GPU利用率。

本文介绍了GPU进行并行计算的基本原理，包括以核为单位的运算、线程块和流处理器（SM）的概念。每个SM包含多个处理单元，能独立并行处理任务。编程时遵循的原则是线程块在同一时间运行于同一SM，内核全部完成后再运行下一个。CUDA编程涉及GPU内存分配、数据传输和内核加载。理解这些概念有助于提升GPU计算效率。

本文详细解析了CUDA中GPU的并行计算模型，包括SM流处理器簇如何调度线程块和线程束(warp)，以及如何通过调度策略掩盖延迟以提高效率。文中还介绍了线程块和线程束的概念及其在不同GPU架构下的表现。

CUDA线程组织包括thread、block、grid和warp，线程块分配到SM上执行，warp是调度基本单位，通常大小为32。CUDA通过延迟隐藏策略调度线程，避免显存访问等延迟。线程块大小需考虑SM资源限制，如8*8、16*16和32*32，合理的线程块配置能充分利用资源并优化执行效率。

本文深入介绍了CUDA线程模型，包括grid-block-thread和SM-Warp-thread结构，前者用于编程时组织线程、划分工作负载，后者描述GPU内部硬件执行机制。还探讨了block与SM的关系、SM内warp的运行情况、线程与CUDA核的映射，以及CUDA核执行指令的情况。

CUDA高性能计算讨论

357

社区成员

615

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章