WiX Toolset：已安装后自定义引导器调用Modify时的重启报错问题

这种情况通常是因为引导程序在触发Modify操作时，没有正确完成前置的系统状态检测，或者系统中残留了重启挂起标记但命令行模式下的安装流程做了特殊处理。下面是具体的排查和解决步骤：

1. 先确认系统是否真的存在重启挂起 #

首先检查系统注册表中是否有未处理的文件重命名操作，这是触发“需要重启”提示最常见的原因：

• 打开注册表编辑器，定位到HKLM\SYSTEM\CurrentControlSet\Control\Session Manager\PendingFileRenameOperations
• 如果这个键存在且有值，说明确实有需要重启才能完成的文件操作，此时建议先重启系统再测试Modify功能。

但你提到命令行运行安装程序时正常，大概率是命令行模式下的安装流程自动跳过了这个检测，或者引导程序在UI触发时没有正确处理这个状态。

2. 确保调用Modify前完成Detect流程 #

自定义引导程序的Plan操作依赖于前置的Detect阶段来获取当前安装状态。如果直接调用Bootstrapper.Plan(LaunchAction.Modify)而没有先执行Detect，可能会导致引擎误判系统状态。

修改你的代码，确保在Plan前完成Detect：

// 初始化引导程序引擎后，先执行Detect
bootstrapper.Engine.Detect();

// 监听DetectComplete事件，确保检测完成后再执行Plan
bootstrapper.DetectComplete += (sender, e) =>
{
    // 检查是否有重启挂起的状态
    if (!bootstrapper.Engine.IsRestartRequired)
    {
        bootstrapper.Plan(LaunchAction.Modify);
    }
    else
    {
        // 提示用户需要先重启系统
        MessageBox.Show("当前系统存在未完成的安装操作，请先重启后再尝试修改。");
    }
};

3. 检查引导程序的状态同步问题 #

如果你的UI操作和引擎操作不在同一个线程，可能会出现状态不同步的情况。确保调用Plan时，引擎已经完成了所有初始化和检测步骤：

• 避免在UI线程直接同步调用Plan，而是通过事件回调或者异步等待Detect完成后再执行
• 检查Bootstrapper实例的状态，确保它已经正确初始化（比如Engine属性不为null，且已经完成了初始化）

4. 对比命令行与UI模式的执行流程 #

命令行启动安装程序时，Windows Installer会自动处理一些前置检测逻辑，而自定义引导程序的UI模式可能遗漏了这些步骤：

• 检查命令行模式下安装程序的启动参数，是否有自动跳过重启检测的参数（比如/norestart）
• 在UI模式下，尝试在调用Plan前设置对应的引擎参数，模拟命令行的行为：

// 尝试设置不强制要求重启
bootstrapper.Engine.SetRestart(RESTART.RESTART_NEVER);

内容的提问来源于stack exchange，提问作者Tyrel Van Niekerk