注入前台窗口进程后，ImmSetConversionStatus仍返回0的原因及解决

问题背景 #

为适配VSCode Vim模式，开发了改进版im-select，仅切换Windows下CJK IME的转换状态，无需额外输入法或键盘。实现分为两部分：

• 注入VSCode进程的DLL：通过GetForegroundWindow获取前台窗口，再用ImmGetContext获取HIMC
• 可执行程序：通过dll-syringe注入DLL并调用其函数，IME操作依赖windows-rs

简化核心代码如下：

// ime-convert/src/main.rs
fn main() {
    let cmd = Cmd::from_args();

    // 获取前台窗口及进程ID
    let h_wnd: HWND = unsafe { GetForegroundWindow() };
    let mut pid = 0;
    let _thead_id = unsafe { GetWindowThreadProcessId(h_wnd, Some(&mut pid)) };
    let process = OwnedProcess::from_pid(pid)
        .expect("获取前台窗口进程失败！");
    let syringe = Syringe::for_process(process);
    let injected_payload = syringe.find_or_inject("target/debug/im_conversion.dll")
        .expect("注入失败");

    let remote_backup = unsafe {
        syringe.get_raw_procedure::<extern "system" fn() -> u32>(injected_payload, "backup")
            .unwrap().unwrap()
    };

    // 执行对应命令
    match cmd {
        Cmd::Backup => {
            let res = remote_backup.call().unwrap();
            println!("远程备份结果: {res:?}");
        },

        // 其他命令分支...
    }
}

// im-conversions/src/lib.rs
/// 备份当前IME转换状态并设置为英文模式
#[no_mangle]
#[allow(unused)]
extern "system" fn backup() -> u32 {
    let hwnd: HWND = unsafe { GetForegroundWindow() };
    let himc: HIMC = unsafe { ImmGetContext(hwnd) };

    let mut conversion = IME_CONVERSION_MODE::default();
    let mut result_code = 0;

    // 备份转换状态到静态MAP（省略实现）

    // DEBUG1: 可成功获取转换状态，说明hwnd和himc有效
    // result_code = conversion.0;

    let set_res: BOOL = unsafe {
        ImmSetConversionStatus(
            himc,
            IME_CONVERSION_MODE::default(),
            IME_SENTENCE_MODE::default(),
        )
    };

    // DEBUG2: ImmSetConversionStatus返回FALSE，result_code为2
    // if set_res == FALSE {
    //     let res = unsafe { GetLastError() };
    //     if let Err(err) = res {
    //         result_code = err.code().0 as u32;
    //     } else {
    //         result_code = 2;
    //     }
    // }

    let release_res: BOOL = unsafe {
        ImmReleaseContext(hwnd, himc)
    };

    if release_res == FALSE {
        result_code = 3;
    }

    return result_code;
}

调试现象：

• 开启DEBUG1时，可成功获取himc的转换状态，证明hwnd和himc有效
• 开启DEBUG2时，ImmSetConversionStatus返回FALSE，无法设置IME转换状态

原因分析 #

1. 线程上下文不匹配：ImmSetConversionStatus需要在目标窗口的所属线程中调用，注入的DLL函数默认运行在非目标窗口线程，跨线程操作IME上下文会失败。
2. 默认参数无效：直接使用IME_CONVERSION_MODE::default()可能未正确映射到IME_CMODE_ALPHANUMERIC，导致设置模式无效。
3. 线程关联性限制：HIMC与创建它的线程绑定，即使获取到有效HIMC，在非关联线程中修改也会被系统拦截。

解决方案 #

1. 切换到目标窗口线程执行操作 #

通过AttachThreadInput将当前线程与目标窗口所属线程关联，确保IME操作在正确的线程上下文中执行：

#[no_mangle]
#[allow(unused)]
extern "system" fn backup() -> u32 {
    let hwnd: HWND = unsafe { GetForegroundWindow() };
    let target_thread_id = unsafe { GetWindowThreadProcessId(hwnd, None) };
    let current_thread_id = unsafe { GetCurrentThreadId() };

    // 关联目标线程输入上下文
    let attach_success = unsafe { AttachThreadInput(current_thread_id, target_thread_id, TRUE) };
    if attach_success == FALSE {
        return 4; // 线程关联失败
    }

    let himc: HIMC = unsafe { ImmGetContext(hwnd) };
    if himc.is_null() {
        unsafe { AttachThreadInput(current_thread_id, target_thread_id, FALSE) };
        return 5; // HIMC无效
    }

    let mut result_code = 0;

    // 明确指定英文模式，避免依赖默认值
    let alphanumeric_mode = IME_CONVERSION_MODE(IME_CMODE_ALPHANUMERIC.0);
    let set_res: BOOL = unsafe {
        ImmSetConversionStatus(
            himc,
            alphanumeric_mode,
            IME_SENTENCE_MODE::default(),
        )
    };

    if set_res == FALSE {
        let err = unsafe { GetLastError() };
        result_code = err.map(|e| e.code().0 as u32).unwrap_or(2);
    }

    unsafe { ImmReleaseContext(hwnd, himc) };
    // 解除线程关联
    unsafe { AttachThreadInput(current_thread_id, target_thread_id, FALSE) };

    return result_code;
}

2. 避免依赖默认参数 #

直接使用IME_CMODE_ALPHANUMERIC常量代替IME_CONVERSION_MODE::default()，确保设置的模式符合预期。

3. 验证权限 #

以管理员身份运行注入程序和VSCode，避免权限不足导致的操作失败。

内容的提问来源于stack exchange，提问作者huangjj27