请教一个cuda动态并行，随机卡死的问题

2024-11-06 08:16:01 751 阅读 AI 写同款 · GEO 优化AI 选题数据监测一键分发 ›

GPU与CPU分工原理：从CUDA报错看并行计算本质并行计算是现代AI与高性能计算的基石，其核心在于任务如何在CPU与GPU间合理拆分。CPU擅长低延迟、强分支、异构任务调度，GPU则专精于高吞吐、规则化、数据并行的数学运算。这种差异源于二者底层架构：CPU依赖复杂流水线与缓存一致性，GPU采用SIMT模型与Warp级同步。CUDA并非简单加速库，而是涵盖驱动、运行时与编译器的完整协同系统，负责内存管理、Kernel调度与版本对齐。典型问题如'no kernel image available'实为CUDA Toolkit、PyTorch二进制包与GPU计算阅读详情

// 源代码如下, VS2022, cuda 12.6,

__global__ void SetBool(volatile int* b)
{
	if (ptrdiff_t(b) > 100)
		* b = 1;
	else
		__nanosleep(1);
}

__device__ volatile int fc = 0;
__global__ void fk()
{
	size_t pidx = threadIdx.x;
	if(0 == pidx) // cudaStreamTailLaunch 放在这，导致随机卡死（3000次就会产生卡死）
		SetBool << <1, 1, 0, cudaStreamTailLaunch >> > (&fc);
	switch (pidx)
	{
	case 0: // cudaStreamTailLaunch 放在这，没有发现随机卡死
		//SetBool << <1, 1, 0, cudaStreamTailLaunch >> > (&fc);
		return		SetBool<<<1,1>>>(0);
	case 1: return		SetBool << <1, 1 >> > ((volatile int*)1);
	case 2: return		SetBool << <1, 1 >> > ((volatile int*)2);
	case 3: return		SetBool << <1, 1 >> > ((volatile int*)3);
	case 4: return		SetBool << <1, 1 >> > ((volatile int*)3);
	case 5: return		SetBool << <1, 1 >> > ((volatile int*)3);
	case 6: return		SetBool << <1, 1 >> > ((volatile int*)3);
	case 7: return		SetBool << <1, 1 >> > ((volatile int*)3);
	default:
		break;
	}
}
__global__ void waitf()
{
	fc = 0;
	fk << <1, 10 >> > ();
	while (!fc)__nanosleep(1);
}



int main(int argc, char** argv)
{
for (size_t i =0; ; i++)
{
	auto t = clock();
	waitf << <1, 10 >> > ();
	cudaDeviceSynchronize(); // 当运行次数很多的时候，会随机卡死在这。
	auto e = clock();
	printf("%lld: %d, ", i, e - t);
}
}

...全文