Qt GUI应用打开/保存文件时挂死问题排查求助

看起来你遇到了挺棘手的Qt文件对话框挂死问题，结合你的环境（自定义编译的Qt 5.15.6 + Mint 20.3），我给你列几个针对性的排查方向，你可以逐一试试：

• 先排查Qt文件对话框的后端兼容性
  Mint默认用GTK桌面环境，Qt的文件对话框默认会调用系统原生的GTK对话框。你可以先强制Qt应用使用自身的原生对话框来验证问题：

  • 启动应用时临时设置环境变量：QT_QPA_PLATFORMTHEME=qt5ct qtcreator（以Qt Creator为例），或者先执行export QT_QPA_PLATFORMTHEME=qt5ct再启动所有Qt应用。如果这样操作后不再挂死，那大概率是自定义Qt和系统GTK后端的兼容性问题。
  • 对自己开发的应用，也可以在代码里添加QFileDialog::setOption(QFileDialog::DontUseNativeDialog);来禁用系统原生对话框，测试是否解决问题。

• 检查自定义Qt编译的依赖与配置
  回忆下你编译Qt 5.15.6时的配置参数，重点确认是否正确引入了GTK相关依赖：

  • 编译Qt时是否安装了libgtk-3-dev等GTK开发包？如果编译过程中缺少这些依赖，Qt的GTK后端支持可能会有瑕疵，导致文件对话框调用死锁。你可以翻出当时的编译日志，看看有没有关于GTK支持的警告信息。
  • 对比系统自带的Qt版本（比如Mint 20.3默认的Qt 5.12），用系统Qt运行一个简单的测试程序（比如写个调用QFileDialog::getOpenFileName()的小Demo），如果系统Qt下没问题，那基本可以确定是自定义编译的Qt存在问题。

• 排查桌面门户服务的影响
  现在Linux桌面常用xdg-desktop-portal来处理文件对话框这类桌面集成功能，它和Qt的交互偶尔会出问题：

  • 先重启门户服务：systemctl --user restart xdg-desktop-portal xdg-desktop-portal-gtk，然后再测试Qt应用。
  • 临时禁用门户服务，设置环境变量export QT_QPA_DESKTOP_PORTAL=0后启动应用，看是否还会挂死。如果禁用后正常，说明是门户服务和自定义Qt的兼容性问题。

• 进阶死锁排查：线程栈与系统调用跟踪
  既然常规debugger没发现问题，试试用工具定位死锁的具体位置：

  • 当应用挂死时，用gdb附加到进程：gdb -p <进程PID>，然后输入thread apply all bt，查看所有线程的调用栈，看是否有线程卡在某个GTK函数、Qt内部函数或者系统IO调用上——这往往能直接锁定死锁的源头。
  • 用strace跟踪系统调用：strace -f -o strace.log qtcreator，操作触发挂死，然后查看strace.log的最后几行，看进程卡在了哪个系统调用上（比如和桌面门户的IPC通信、文件系统操作等）。

• 针对Telegram的特殊测试
  Telegram Desktop的文件保存逻辑可能有自己的实现，你可以试试用系统默认Qt版本的Telegram（比如从官方仓库安装，而非用自定义Qt编译的版本），看是否还会在保存对话框关闭后挂死：

  • 如果依然挂死，那可能是Telegram和Mint桌面环境的交互问题；如果不挂死，那问题还是出在你的自定义Qt编译配置上。

备注：内容来源于stack exchange，提问作者Andrei Vukolov