Inno Setup遇锁定文件需重启时如何中止安装并确保回滚生效？

场景回顾 #

通过Windows计划任务以SYSTEM用户运行Inno Setup静默更新时，若普通用户会话中锁定了应用文件（如执行notepad <Qt5Core.dll锁定文件），RestartManager会识别到会话不匹配无法处理锁定，但安装仍会继续替换其他文件，直到遇到锁定文件时因静默模式默认选择Abort而中止。此时安装程序提示回滚，但已替换的文件未实际恢复，仅锁定文件保留，最终导致软件损坏。

以下基于Inno Setup 5.5.3的RestartManager特性及命令行参数文档，提供两种解决思路：

思路一：提前检测重启需求，直接中止安装 #

利用Inno Setup 5.5.3新增的CheckNeedRestart函数，在安装初始化阶段就判断RestartManager是否要求重启，若检测到则直接退出安装，避免后续文件替换后回滚失效。

实现代码 #

在脚本的[Code]段添加：

function InitializeSetup(): Boolean;
var
  NeedsRestart: Boolean;
begin
  Result := True;
  // 调用RestartManager检查是否需要重启才能完成文件替换
  CheckNeedRestart(NeedsRestart);
  
  if NeedsRestart then
  begin
    Log('RestartManager检测到需要重启，安装将中止');
    // 针对静默/抑制弹窗模式直接退出，非静默模式给出提示
    if CmdLineParamExists('/SUPPRESSMSGBOXES') or CmdLineParamExists('/SILENT') or CmdLineParamExists('/VERYSILENT') then
    begin
      Result := False;
    end
    else
    begin
      MsgBox('检测到应用文件被占用，需重启系统才能完成安装，请关闭相关程序后重试。', mbError, MB_OK);
      Result := False;
    end;
  end;
end;

原理说明 #

CheckNeedRestart会提前触发RestartManager的检测逻辑，返回是否需要重启才能完成所有文件的替换操作。在安装初始化阶段退出，可避免后续文件被替换后因回滚失效导致的软件损坏。

思路二：确保回滚操作正常执行 #

若需继续安装流程，需调整Inno Setup的回滚配置，并处理静默模式下的Abort行为，确保安装中止时已替换的文件能被正确恢复。

步骤1：配置Setup段参数 #

在脚本的[Setup]段添加以下配置，强化回滚机制：

[Setup]
RollbackUninstalls=Yes          ; 强制开启安装失败时的回滚逻辑
AlwaysRestart=No                 ; 禁止自动触发重启，由自定义逻辑控制
RestartIfNeededByRun=No          ; 避免因运行的程序要求重启而干扰回滚

步骤2：在安装准备阶段检测锁定文件并处理 #

在[Code]段添加事件处理，检测到锁定文件时主动触发回滚并退出：

procedure OnPrepareToInstall(var NeedsRestart: Boolean);
var
  LockedFiles: TStringList;
begin
  LockedFiles := TStringList.Create;
  try
    // 获取所有被锁定的目标文件列表
    GetLockedFiles(LockedFiles);
    if LockedFiles.Count > 0 then
    begin
      Log('检测到锁定文件：' + #13#10 + LockedFiles.Text);
      // 静默模式下直接触发回滚并退出
      if CmdLineParamExists('/SUPPRESSMSGBOXES') then
      begin
        Abort; // 触发安装中止，Inno Setup会自动执行回滚
      end;
    end;
  finally
    LockedFiles.Free;
  end;
end;

注意事项 #

• 确保安装目录的权限允许SYSTEM用户读写：回滚操作需要SYSTEM用户有足够权限恢复原文件，若目录权限受限，需提前配置ACL赋予SYSTEM用户修改权限。
• 避免/SUPPRESSMSGBOXES与自动回滚的冲突：该参数会让安装程序在遇到错误时默认选择Abort，但需确保Inno Setup的回滚逻辑能正常触发，上述代码通过主动调用Abort确保回滚流程启动。

内容的提问来源于stack exchange，提问作者T3 H40