Docker构建未使用层缓存：Scala项目SBT依赖更新缓存失效排查

首先，我们先明确Docker构建缓存的核心判定逻辑（基于官方规则）：

• 对于ADD/COPY指令，Docker会计算每个传入文件的内容哈希，只有所有文件哈希与缓存层完全匹配时，才会复用缓存，否则会重新执行该指令及后续所有步骤。
• 对于RUN、WORKDIR这类非文件操作指令，Docker会结合前一层镜像的哈希值和当前指令的完整内容生成缓存键，只有两者都完全匹配时，才会复用对应的缓存层。
• 使用--cache-from时，Docker会从指定镜像中查找可复用的缓存层，但前提是这些层必须满足上述匹配规则——本地构建到当前步骤的层哈希，要和缓存镜像中对应层的父层哈希完全一致。

回到你的问题，虽然前序的COPY指令都显示Using cache，但RUN ./sbt -sbt-dir ./sbt-dir -ivy ./ivy update没有复用缓存，可能的原因有这些：

1. --cache-from的镜像未包含完整的缓存层 #

你提到每次构建在新VM中运行，需要拉取之前推送的workspace镜像复用缓存。如果推送镜像时，因网络或镜像仓库问题导致部分中间层缺失（虽然docker push默认会推送所有缺失层，但偶尔会有异常），Docker无法找到对应RUN步骤的缓存层，就会重新执行该命令。

2. ARG BUILD_VERSION的间接影响 #

虽然你的RUN update命令没有直接使用BUILD_VERSION参数，但ARG指令本身会创建一个构建层。如果两次构建时BUILD_VERSION的值不同，会导致ARG层的哈希变化，进而影响后续所有层的缓存判定——即使后续指令没有用到这个参数，前一层的哈希已经改变，RUN指令的缓存键也就不匹配了。

修复建议 #

针对这些可能的问题，你可以尝试以下方案：

• 隔离依赖层与版本参数：把依赖更新的步骤单独放在一个构建阶段，这个阶段不引入BUILD_VERSION参数，这样即使版本变化，依赖层的缓存依然可以复用。修改后的Dockerfile参考：

  FROM openjdk:8 as dependency-cache
  WORKDIR /build
  COPY ./sbt ./sbt
  COPY ./sbt-dist ./sbt-dist
  COPY ./build.sbt ./build.sbt
  COPY ./project/build.properties ./project/build.properties
  COPY ./project/plugins.sbt ./project/plugins.sbt
  RUN ./sbt -sbt-dir ./sbt-dir -ivy ./ivy update
  
  FROM openjdk:8 as workspace
  ARG BUILD_VERSION
  WORKDIR /build
  COPY --from=dependency-cache /build /build
  COPY ./ ./
  # 后续的用户创建、测试、打包步骤...
  RUN useradd -ms /bin/bash runner
  RUN chown -R runner /build
  USER runner
  RUN ./sbt -sbt-dir ./sbt-dir -ivy ./ivy clean test
  RUN ./sbt -sbt-dir ./sbt-dir -ivy ./ivy docker:stage -Ddocker.image.version="${BUILD_VERSION}"
  

• 验证缓存镜像完整性：在新VM中拉取workspace镜像后，用docker history workspace查看所有层，确认包含RUN update对应的层，并且该层的父层哈希和你构建时Step8的哈希一致。
• 优化.dockerignore配置：确保构建上下文没有包含不必要的文件（比如日志、临时文件），避免COPY ./ ./时引入意外的文件变化，虽然这不会影响前面的依赖层缓存，但可以避免后续步骤的缓存失效。

内容的提问来源于stack exchange，提问作者fragsalat