x86-64 NASM汇编调用XCloseDisplay时出现BadWindow错误排查

这个BadWindow错误核心是传给X11函数的窗口ID无效，结合你遇到的场景，可能的原因有：

• 窗口ID被意外覆盖：x86-64 System V ABI下，调用函数会破坏rax、rcx、rdx、rsi、rdi、r8-r11等寄存器。如果你把窗口ID存在这些寄存器里，后续调用其他X11函数（比如XSelectInput、XMapWindow）后，寄存器值被改写，导致后续操作使用了错误的窗口ID。
• 窗口ID未正确保存：汇编中如果没有将XCreateWindow返回的窗口ID（存在rax中）存入全局变量或栈帧局部变量，后续操作时可能误用了未初始化的内存值作为窗口ID。
• 事件循环中操作已销毁的窗口：当收到WM_DELETE_WINDOW消息并调用XDestroyWindow后，窗口ID已失效，如果后续事件循环还在尝试用这个ID操作窗口（比如XNextEvent处理关联该窗口的残留事件），就会触发错误。
• WSL环境X服务器的特殊问题：WSL的X服务器（比如VcXsrv）可能对窗口资源的生命周期管理更严格，若窗口创建后未正确映射（XMapWindow）就进行后续操作，也可能导致ID无效。

针对汇编新手的常见疏漏，按优先级排查：

1. 持久化保存窗口ID

   • 在.data段定义全局变量存储窗口ID：

     section .data
         display dq 0       ; 存储XOpenDisplay返回的显示指针
         win_id dq 0        ; 存储XCreateWindow返回的窗口ID
     

   • 创建窗口后立即将rax中的返回值存入全局变量：

     call XCreateWindow
     mov [win_id], rax     ; 保存有效窗口ID
     

   • 后续所有需要窗口ID的函数调用（比如XDestroyWindow、XChangeProperty），都从全局变量中取值，避免使用易被覆盖的寄存器。

2. 严格检查X11函数返回值

   • 调用XOpenDisplay后检查rax是否非零，确保显示连接有效：

     call XOpenDisplay
     test rax, rax
     jz exit_error         ; 如果返回NULL，直接退出
     mov [display], rax
     

   • 调用XCreateWindow后同样检查rax是否非零，确认窗口创建成功：

     call XCreateWindow
     test rax, rax
     jz exit_destroy_display  ; 窗口创建失败，关闭显示后退出
     mov [win_id], rax
     

3. 修正事件处理与资源销毁流程

   • 处理WM_DELETE_WINDOW消息时，先销毁窗口，再退出事件循环，最后关闭显示：

     ; 假设事件结构体存在rbp指向的栈内存中
     cmp dword [rbp+event.type], ClientMessage
     jne next_event
     cmp qword [rbp+event.xclient.data.l[0]], WM_DELETE_WINDOW
     jne next_event
     ; 销毁窗口
     mov rdi, [display]
     mov rsi, [win_id]
     call XDestroyWindow
     ; 退出事件循环
     mov rbx, 1
     jmp exit_loop
     
     exit_loop:
     ; 关闭显示
     mov rdi, [display]
     call XCloseDisplay
     ret
     

   • 确保事件循环中不会在窗口销毁后继续处理关联该窗口的事件。

4. 验证WSL X服务器配置

   • 确保启动X服务器时开启了-ac（关闭访问控制）和-multiwindow（多窗口模式）选项，避免权限或窗口管理问题。
   • 确认DISPLAY环境变量正确设置（比如export DISPLAY=:0），且WSL能正常访问X服务器。

内容的提问来源于stack exchange，提问作者Mac Abrams