如何转储或查看NVIDIA GPU任意有效地址的全局内存内容

一、内核断点场景下的操作要点 #

• 先锁定设备线程上下文：内核断点触发后，必须确保cuda-gdb当前处在设备线程调试状态——敲info cuda threads就能查看当前线程，要是切到了主机线程，访问设备地址百分百出错。
• 区分数据地址和代码地址的访问方式：
  • 对于全局内存数据地址（比如设备数组指针），直接用x命令转储，格式是x/<nfu> <设备地址>，比如x/10xw 0x12345678就是转储该地址开始的10个32位十六进制值。
  • 要是访问的是内核函数的设备地址（代码段地址），别当成数据内存读——这时候得用disassemble <设备函数地址>反汇编看指令，或者用info cuda kernel <内核名>查看内核代码段信息，直接按数据访问肯定会报访问错误。

二、主机断点场景下的操作要点 #

• 主机端不能直接读写GPU内存：主机里的设备指针只是个存着GPU地址的普通变量，CPU根本没法直接访问GPU内存，你在主机断点里用x命令读这个地址，拿到的都是主机内存里的垃圾数据（你看到的重复add指令就是这么来的）。
• 用cuda-gdb专属命令访问设备内存：在主机上下文时，必须用cuda-gdb的设备内存访问命令，比如：
  • cuda memdump <设备地址> <字节数>：转储指定地址开始的指定字节数内容，比如cuda memdump 0x12345678 40。
  • cuda peek <设备地址>：查看单个地址的值。

三、通用注意事项 #

• 先确认地址有效性：敲info cuda memory能看到全局内存的地址范围，先确认你要访问的地址在这个范围内；如果是函数地址，它属于设备代码段，不在数据内存池里，别搞混了。
• 符号地址先核实：如果是cuda-gdb里看到的符号地址（比如&my_kernel），先用info cuda symbols列出所有设备符号，确认是数据符号还是代码符号，再对应选择访问方式。

内容的提问来源于stack exchange，提问作者Abhishek Ghosh