如何让Wix自定义操作启动程序后结束自身msiexec进程？

你的推测完全正确——主Wix安装的msiexec进程尚未完全退出时，Windows Installer不允许同时运行另一个msiexec实例，这就是第三方MSI安装失败的核心原因。以下是几种可行的解决思路：

1. 异步启动自研软件，让主安装进程先退出 #

不要让自定义动作同步等待自研软件执行完成，而是通过异步方式启动它，这样主msiexec进程可以正常结束，后续自研软件调用msiexec就不会触发冲突。

修改自定义动作，用cmd /c start命令异步启动自研软件，同时在Wix配置中设置异步执行属性：

<!-- 定义异步执行的自定义动作 -->
<CustomAction Id="InstallProtocol" BinaryKey="WixCA" DllEntry="CAQuietExec" 
              Execute="deferred" Impersonate="no" Return="asyncNoWait" />
<!-- 设置要执行的命令：异步启动自研软件 -->
<Property Id="QtExecCmdLine" Value='cmd /c start "" "[INSTALLDIR]你的自研软件.exe" /register' />

<InstallExecuteSequence>
    <Custom Action="InstallProtocol" After="InstallFinalize" />
</InstallExecuteSequence>

• Return="asyncNoWait"：主安装不会等待该自定义动作完成，直接继续直到退出
• cmd /c start：让自研软件在独立进程中运行，与主msiexec进程解耦

2. 改用Wix Burn链式安装（最佳实践） #

Windows Installer本身不推荐在MSI自定义动作中嵌套调用另一个MSI，容易引发回滚、进程冲突等问题。更稳妥的方式是用Wix的Burn工具制作引导程序，按顺序执行：

1. 安装主自研软件MSI
2. 安装第三方MSI
3. 最后调用自研软件执行/register命令

这种方式所有安装步骤都是串行执行，完全避免了进程冲突，同时还能统一管理整个安装流程的进度和错误。

3. 调整第三方MSI的集成方式 #

如果第三方MSI允许，可以将其转换为合并模块（Merge Module），直接集成到主Wix项目中，由主安装统一处理所有组件的安装，不需要在自定义动作中单独调用msiexec。

注意事项 #

• 用异步方式时，要确保自研软件的注册和第三方安装流程有清晰的用户提示，避免用户误以为安装未完成
• 若自研软件需要管理员权限，自定义动作需设置Impersonate="no"，确保以系统权限执行

内容的提问来源于stack exchange，提问作者DinahMoeHumm