Qt GUI程序Debug Assertion Failed弹窗按钮无法点击问题求助

我之前在Win10 64bit环境下用VS2010开发Qt4.8应用时，碰到过完全一样的情况——断言失败弹窗弹出来后，Abort/Retry/Ignore按钮全点不动，主窗口也跟着卡死。给你分享几个亲测有效的解决思路：

• 检查断言触发的线程是否为非UI线程
  Qt的所有UI操作必须在主线程执行，如果断言是在子线程里触发的，系统会尝试在子线程创建弹窗（属于UI元素），这会直接导致线程阻塞，进而整个程序卡死。你可以在断言可能触发的位置加断点或者日志，打印当前线程ID，对比主线程ID看是否一致。
  解决办法：把涉及UI的操作或者可能触发断言的逻辑移到主线程，用QMetaObject::invokeMethod或者信号槽的跨线程调用方式来处理。

• 调整VS2010的调试设置
  有时候VS的调试弹窗和Qt的事件循环会产生冲突，导致弹窗无法响应。你可以试试修改这些选项：

  • 打开VS2010，依次点击「工具」→「选项」→「调试」→「常规」，取消勾选「仅启用我的代码（仅限托管）」或者类似的选项；
  • 程序卡死时，暂停调试，打开「调试」→「窗口」→「线程」，查看是否存在线程死锁，尤其是主线程是否被某个子线程的操作阻塞。

• 升级Qt4.8到最新补丁版本
  Qt4.8.0本身存在不少线程和UI交互的兼容性bug，尤其是在Win10系统下表现更明显。建议升级到Qt4.8.7（这是Qt4系列的最后一个稳定版本），很多旧版本的问题都被修复了，而且VS2010完全支持这个版本。

• 排查线程死锁问题
  弹窗卡死很大概率是主线程和子线程之间发生了死锁。比如主线程在等待子线程完成某个操作，而子线程触发断言后被阻塞，导致主线程也无法继续执行事件循环。
  遇到卡死时，暂停调试，查看每个线程的调用栈，重点看是否有线程卡在获取互斥锁、等待信号量或者其他同步操作上。

• 自定义Qt的断言/消息处理函数
  Qt默认的断言处理逻辑在某些环境下会和VS的调试弹窗冲突。你可以自定义一个消息处理函数，确保错误提示在主线程显示：

  void customQtMessageHandler(QtMsgType type, const char* msg)
  {
      if (type == QtCriticalMsg || type == QtFatalMsg)
      {
          // 确保在主线程显示错误弹窗
          if (QThread::currentThread() != qApp->thread())
          {
              // 用BlockingQueuedConnection保证主线程处理完再返回
              QMetaObject::invokeMethod(qApp, "showCriticalError", 
                  Qt::BlockingQueuedConnection, Q_ARG(QString, QString::fromLocal8Bit(msg)));
          }
          else
          {
              MessageBoxA(NULL, msg, "Debug Assertion Failed", MB_OK | MB_ICONERROR);
          }
          abort();
      }
      // 其他消息类型可以按默认逻辑处理
      else
      {
          qDebug(msg);
      }
  }
  

  然后在main函数开头注册这个处理函数：

  int main(int argc, char *argv[])
  {
      QApplication a(argc, argv);
      qInstallMsgHandler(customQtMessageHandler); // 注册自定义消息处理
      // ... 其他初始化代码
      return a.exec();
  }
  

  另外，你需要给QApplication类添加一个槽函数showCriticalError来显示错误信息，或者直接用全局函数替代，确保主线程能处理这个请求。

内容的提问来源于stack exchange，提问作者queuer