请教下on-chip memory的概念

[Vulcann]

看programm guide，最后那张performance那里，说device上的share memory是和global/local memory不同的，是on-chip的，这里on-chip和形容global memory, local memory的off-chip是什么意思呢？希望有了解的朋友解释一下概念，非常感谢

[无心人_过过小日子]

smem在gpu芯片内,on-chip,访问速度极快，尺寸极小。
gmem(local mem实际是gmem的一部分)是在gpu芯片外，显卡上的，就是通常的显存。

[victorypiter]

具体来讲，Shared Memory为一个Block内的所有线程共享，我想应该是因为它在显卡的Streaming MultiProcessor （SM）内，叫On-chip
Global Memory为一个Grid内的所有线程共享，可能即所说的显存，在GPU芯片外，
至于Local Memory， 我在怀疑它是off-chip吗？每个线程都自己的local Memory 难道不是on-chip吗？

[无心人_过过小日子]

[Quote=引用 2 楼 victorypiter 的回复:]
至于Local Memory， 我在怀疑它是off-chip吗？每个线程都自己的local Memory 难道不是on-chi……
[/Quote]

LS仔细看过资料的话，会发现local mem只是gmem中划出的一部分。是“逻辑概念”。

[Vulcann]

谢谢大家关于on-chip的回复

至于说local memory，确实是global memory的一部分

对于cuda来说，简单的variable尽量都在register上保存，出现了所谓的register spilling，才会使用到local memory,对效率还是很有影响的

[hfutxrg]

对于individual thread来说，scalar variables are stored in registers, while array variables are stored in local memory, and local memory is part of global memory.