如何在模态对话框中处理键盘输入（ESC键关闭对话框）

问题根源 #

模态对话框的消息循环由系统对话框管理器控制，它会优先拦截ESC、Enter这类快捷键：

• 按下ESC时，系统默认会发送WM_COMMAND消息给IDCANCEL，而非直接将WM_KEYDOWN传递给你的DialogProc
• 这就是你直接处理WM_KEYDOWN的ESC代码无效的原因

三种可行解决方案 #

方案1：兼容系统默认的IDCANCEL命令

无需修改按钮ID，只需在WM_COMMAND分支中添加对IDCANCEL的处理，就能响应ESC键：

INT_PTR CALLBACK DialogProc(HWND hDlg, UINT message, WPARAM wParam, LPARAM lParam)
{
    switch (message)
    {
    case WM_INITDIALOG:
        return true;

    case WM_COMMAND:
        switch (LOWORD(wParam)) {
        case IDC_CANCEL:
        case IDCANCEL:  // 新增该行，处理ESC触发的系统命令
            EndDialog(hDlg, false);
            return true;
        default:
            return false;
        }

    case WM_CLOSE:
        EndDialog(hDlg, false);
        return true;

    default:
        return false;
    }
    return false;
}

方案2：将Cancel按钮ID改为IDCANCEL

把对话框资源里Cancel按钮的ID改成系统预定义的IDCANCEL（数值为2），此时按下ESC会自动触发该按钮的WM_COMMAND，只需把原有处理逻辑的IDC_CANCEL替换为IDCANCEL即可：

case WM_COMMAND:
    switch (LOWORD(wParam)) {
    case IDCANCEL:  // 使用系统默认ID
        EndDialog(hDlg, false);
        return true;
    default:
        return false;
    }

方案3：强制让DialogProc接收ESC的WM_KEYDOWN消息

通过处理WM_GETDLGCODE消息，通知对话框管理器我们需要捕获ESC键的消息，这样WM_KEYDOWN分支就能生效：

INT_PTR CALLBACK DialogProc(HWND hDlg, UINT message, WPARAM wParam, LPARAM lParam)
{
    switch (message)
    {
    case WM_INITDIALOG:
        return true;

    case WM_COMMAND:
        switch (LOWORD(wParam)) {
        case IDC_CANCEL:
            EndDialog(hDlg, false);
            return true;
        default:
            return false;
        }

    case WM_GETDLGCODE:
        if (lParam != NULL) {
            MSG* pMsg = (MSG*)lParam;
            if (pMsg->message == WM_KEYDOWN && pMsg->wParam == VK_ESCAPE) {
                return DLGC_WANTMESSAGE; // 告诉系统我们要处理这个消息
            }
        }
        return DefDlgProc(hDlg, message, wParam, lParam);

    case WM_KEYDOWN:
        if (wParam == VK_ESCAPE) {
            EndDialog(hDlg, false);
            return true;
        }
        return false;

    case WM_CLOSE:
        EndDialog(hDlg, false);
        return true;

    default:
        return false;
    }
    return false;
}

注意事项 #

• 不要在WM_INITDIALOG中调用SetFocus(hDlg)，对话框本身无法获得焦点，焦点必须分配给内部控件（如按钮、编辑框）
• 优先选择方案1或2，利用系统默认行为的代码更稳定，也更符合Windows对话框的设计规范

内容的提问来源于stack exchange，提问作者Liam Bohl