如何用NSight捕获无渲染窗口的DXR烘焙程序并查看TLAS/BLAS结构？

不需要强制编写渲染窗口就能让NSight捕获DXR API调用，但你需要调整程序初始化逻辑和NSight的捕获设置，才能让工具识别到你的D3D12设备与光线追踪资源。具体解决步骤如下：

• 启用D3D12调试层
  创建D3D12设备前，必须先调用D3D12EnableDebugLayer()，并在创建设备时传入D3D12_CREATE_DEVICE_FLAG_DEBUG标志。这是NSight能识别并追踪D3D12资源的基础前提。

• 手动附加进程而非自动启动
  无窗口程序没有可识别的渲染窗口，NSight默认的“启动程序并捕获”模式无法自动扫描到它。你需要先手动启动自己的烘焙程序，再在NSight中选择“Attach to Process”（附加到进程）来关联目标程序。

• 主动标记捕获点
  无窗口程序没有天然的帧渲染触发点，你可以在代码中插入断点，当程序运行到DispatchRays调用前后时，手动触发NSight的捕获操作；也可以使用NSight提供的捕获标记API，主动告知工具需要追踪的DXR操作阶段。

• 确保加速结构保留调试信息
  创建BLAS/TLAS时，避免使用会剥离调试元数据的优化选项，确保设备在调试模式下能完整追踪加速结构的构建过程，防止NSight无法解析TLAS和BLAS的内部结构。

你遇到的“Searching for attachable application”提示，本质是NSight默认只扫描带有可渲染窗口的图形进程，无窗口程序不在自动识别列表中，手动附加进程即可解决这个问题。

内容的提问来源于stack exchange，提问作者Wood