Rust窗口非聚焦状态下键盘Hook捕获事件栈溢出问题求助

一、栈溢出问题根源 #

系统键盘钩子的回调函数运行在系统分配的专用线程中，该线程的栈空间非常有限（Windows下通常仅几KB）。你当前的代码存在两个致命问题：

1. 在钩子回调中直接调用tokio::spawn并克隆Tokio异步Sender，这些操作会在栈空间极小的钩子线程上执行大量复杂逻辑，直接触发栈溢出。
2. 窗口聚焦时，钩子回调可能复用UI线程（栈空间更大）执行，因此不会触发溢出；窗口失焦后切换到系统钩子线程，立刻暴露栈空间不足的问题。

二、鼠标事件失焦停止触发的原因 #

你当前的鼠标事件监听是绑定到窗口自身的，仅当窗口处于聚焦状态时才会接收事件。需要安装全局鼠标钩子才能捕获系统范围内的鼠标移动事件，不受窗口焦点影响。

三、具体修复方案 #

1. 重构键盘钩子逻辑，避免在回调中执行异步操作 #

改用同步无锁通道（如crossbeam_channel）传递按键事件，钩子回调仅做最轻量化的发送操作，将异步处理逻辑转移到Tokio线程池：

use crossbeam_channel::{unbounded, Sender, Receiver};
use std::sync::Arc;

// 在结构体中保存通道接收端
struct Overlay {
    button_receiver: Receiver<KeyboardButton>,
    // ...其他字段
}

impl Overlay {
    fn new() -> Self {
        // 创建同步无锁通道，用Arc包裹Sender避免频繁克隆
        let (button_sender, button_receiver) = unbounded();
        let button_sender = Arc::new(button_sender);

        // 安装全局键盘钩子
        match keylogger::install_hook(Box::new(move |button| {
            // 钩子回调仅执行发送操作，无额外复杂逻辑
            if let Err(e) = button_sender.send(button) {
                eprintln!("Failed to send button event: {}", e);
            }
        })) {
            Ok(_) => {
                #[cfg(debug_assertions)]
                println!("Global keyboard hook installed");
            }
            Err(e) => {
                eprintln!("Failed to install hook: {}", e);
            }
        };

        // 在Tokio runtime中单独处理按键事件，与UI循环解耦
        tokio::spawn(async move {
            while let Ok(button) = button_receiver.recv() {
                // 这里处理按键业务逻辑，如需更新UI，使用对应UI库的线程安全通信机制
                // 例如egui可使用`ctx.send_message()`传递事件到UI线程
                println!("Received global key press: {}", button);
            }
        });

        Self { button_receiver }
    }
}

2. 调整UI事件循环的按键处理逻辑 #

不要在UI循环中频繁调用try_recv，改用UI库的消息机制接收按键事件（以egui为例）：

custom_window_frame(ctx, |ui| {
    // 通过UI库的消息队列接收按键事件，避免阻塞UI
    if let Some(msg) = ctx.receive_message::<KeyboardButton>() {
        match msg {
            KeyboardButton::F12 => {
                // 处理F12按键逻辑
            }
            KeyboardButton::Esc => {
                // 处理Esc按键逻辑
            }
            _ => {}
        }
    }
});

3. 修复鼠标事件失焦问题 #

安装全局鼠标钩子，与键盘钩子逻辑一致：

// 复用同步通道传递鼠标事件
let (mouse_sender, mouse_receiver) = unbounded();
let mouse_sender = Arc::new(mouse_sender);

// 安装全局鼠标钩子
match mouse_logger::install_global_hook(Box::new(move |mouse_event| {
    if let Err(e) = mouse_sender.send(mouse_event) {
        eprintln!("Failed to send mouse event: {}", e);
    }
})) {
    Ok(_) => {
        #[cfg(debug_assertions)]
        println!("Global mouse hook installed");
    }
    Err(e) => {
        eprintln!("Failed to install mouse hook: {}", e);
    }
};

// 在Tokio线程中处理鼠标事件
tokio::spawn(async move {
    while let Ok(event) = mouse_receiver.recv() {
        println!("Received global mouse event: {:?}", event);
        // 处理鼠标移动逻辑
    }
});

四、关键注意事项 #

• 全局钩子回调必须快速、非阻塞，绝对不能在回调中执行异步调度、堆分配或耗时操作。
• 避免在钩子回调中使用unwrap()等可能触发panic的操作，钩子线程panic会导致整个程序崩溃。
• 若使用SetWindowsHookEx实现全局钩子，需确保钩子逻辑所在的DLL正确加载（部分Rust钩子库已封装此逻辑）。

内容的提问来源于stack exchange，提问作者Gewi