在Google Colab中运行CUDA程序无内核输出的问题求助

问题根源 #

在Colab环境中，直接通过!nvcc编译并运行CUDA程序时，GPU内核的printf输出可能无法被重定向到前端输出面板；同时未添加错误检查的话，内核启动失败的问题也无法被发现。

修复方案 #

1. 用nvcc4jupyter魔法命令直接运行代码 #

既然已经安装并加载了nvcc4jupyter，无需手动编译执行，直接使用%%cu魔法命令运行代码块，它会自动处理GPU输出的捕获：

%%cu
#include <stdio.h>

__global__ void helloCuda() {
  printf("Hello Cuda from thread %d\n", threadIdx.x);
}

int main() {
  printf("Starting CUDA program...\n");

  helloCuda<<<1,5>>>();
  cudaDeviceSynchronize();
  printf("Program completed.\n");
  return 0;
}

2. 给代码添加CUDA错误检查（可选但推荐） #

如果坚持手动编译运行，添加错误检查可以排查内核是否正常启动：

#include <stdio.h>
#include <cuda_runtime.h>

#define CHECK_CUDA_ERROR(err) \
    if (err != cudaSuccess) { \
        printf("CUDA error at %s:%d: %s\n", __FILE__, __LINE__, cudaGetErrorString(err)); \
        return 1; \
    }

__global__ void helloCuda() {
  printf("Hello Cuda from thread %d\n", threadIdx.x);
}

int main() {
  printf("Starting CUDA program...\n");

  helloCuda<<<1,5>>>();
  CHECK_CUDA_ERROR(cudaGetLastError()); // 检查内核启动错误
  CHECK_CUDA_ERROR(cudaDeviceSynchronize()); // 检查同步错误
  printf("Program completed.\n");
  return 0;
}

编译运行后，如果有错误会直接输出，帮助定位问题。

3. 确认GPU运行时状态 #

运行以下命令验证Colab是否正确连接T4 GPU：

!nvidia-smi

若输出显示T4 GPU信息，说明运行时配置正常；否则重新切换运行时类型为GPU并重启会话。

内容的提问来源于stack exchange，提问作者Digvijay Singh Thakur