Delphi中Winapi MessageBox：父窗口未知时确定所有者句柄以保证模态顺序

问题背景 #

我正在开发可在Delphi各项目组复用的自定义消息对话框库函数，当前遇到父窗口未知时难以维护表单模态顺序的问题。

函数调用流程 #

Form-1.Edit()             // fsStayOnTop — 不可修改       [unit1.pas]
↓
Form-2.BtnOKClick         // 以ShowModal显示模态表单       [unit2.pas]
↓
TFrame1.DoOnOK            // Form-2内的Frame组件                   [unit3.pas]
↓
MyMessageDlg(...)         // 调用MessageBoxExW的自定义对话框     [unit4.pas]
↓
MessageBoxExW(0, ...)     // 所有者句柄=0 → 问题出现

当前函数实现 #

function myMessageDlg(const Msg : string; DlgType : TMsgDlgType; Buttons : TMsgDlgButtons; parentCtl : TControl) : Integer;
begin
  // 此处：未传入有效的所有者句柄是问题根源
  R := MessageBoxExW(0, Msg, Caption, MB_OK, langID);
end;

问题现象 #

• 若使用Vcl.Dialogs.MessageDlg替代自定义函数，表单顺序保持正常
• 若移除表单的fsStayOnTop属性，使用自定义函数时表单顺序也正常

核心问题原因 #

• fsStayOnTop表单干扰：部分表单（如Form-1）设置为fsStayOnTop，始终处于顶层，打乱模态栈顺序，导致模态的Form-2被压在Form-1后方
• 所有者句柄缺失：调用MessageBoxExW(0, ...)时未传入有效所有者句柄，Windows无法正确维护模态层级，引发Form-2显示在Form-1后方、消息对话框出现在应用窗口外等问题

解决方案：获取正确的所有者句柄 #

要解决这个问题，关键是在自定义函数中自动找到当前应该作为消息框所有者的窗口句柄，逻辑如下：

句柄获取优先级 #

1. 优先使用调用方传入的parentCtl对应的窗口句柄
2. 若未传入父控件，遍历VCL维护的表单列表，找到当前最顶层的模态窗口
3. 若没有模态窗口，使用应用主窗口句柄

修改后的函数实现 #

function myMessageDlg(const Msg : string; DlgType : TMsgDlgType; Buttons : TMsgDlgButtons; parentCtl : TControl = nil) : Integer;
var
  hOwner: HWND;
  Caption: string;
  langID: DWORD;
  I: Integer;
begin
  hOwner := 0;
  Caption := Application.Title;
  langID := GetUserDefaultLangID();

  // 处理传入的父控件
  if Assigned(parentCtl) then
  begin
    if parentCtl is TWinControl then
      hOwner := TWinControl(parentCtl).Handle
    else if Assigned(parentCtl.Owner) and (parentCtl.Owner is TWinControl) then
      hOwner := TWinControl(parentCtl.Owner).Handle;
  end;

  // 自动查找顶层模态窗口
  if hOwner = 0 then
  begin
    // 从后往前遍历，因为模态窗口是后进先出栈结构
    for I := Screen.CustomForms.Count - 1 downto 0 do
    begin
      with Screen.CustomForms[I] do
      begin
        if Modal and (ModalResult = mrNone) then
        begin
          hOwner := Handle;
          Break;
        end;
      end;
    end;

    //  fallback到主窗口
    if hOwner = 0 then
      hOwner := Application.MainFormHandle;
  end;

  // 传入正确的所有者句柄调用MessageBoxExW
  Result := MessageBoxExW(hOwner, PChar(Msg), PChar(Caption), MB_OK, langID);
end;

额外注意事项 #

• 不要给消息框设置MB_TOPMOST样式，避免破坏模态层级
• 测试时覆盖多种场景：存在多层模态窗口、无模态窗口、传入不同类型父控件等

内容的提问来源于stack exchange，提问作者user5005768-hd