AKS中Azure DevOps自建代理CPU满负载且Android构建缓慢问题咨询

1. 为何高性能VM上的容器仍占用100%CPU？ #

• 核心原因集中在Gradle构建任务的资源消耗与缓存有效性：
  • 若未开启Gradle并行构建、未设置合理的--max-workers参数，构建进程会无限制占用CPU资源；即便容器配置了CPU limits，若limits值接近节点总CPU，也会导致节点整体CPU跑满。
  • 若Gradle缓存未真正复用（比如挂载的临时磁盘路径权限错误、缓存目录未被Gradle正确识别），每次构建都会触发全量编译，持续高负载占用CPU。
  • 节点系统进程（kubelet、容器运行时）会占用少量CPU，但结合你仅运行一个代理容器的场景，主要负载还是来自构建任务。

2. Kubernetes CPU调度（cgroups）是否限制了性能？ #

• 存在限制可能性，取决于你的资源配置细节：
  • 你设置的limits.cpu=12是硬限制，容器进程最多只能使用12个CPU核心的时间片；节点剩余4个核心会被系统进程占用，若构建任务持续占满12个核心，节点整体CPU使用率会达到80%-90%左右。如果看到100%，可能是limits设置未生效（比如容器运行时配置异常），或节点存在隐藏进程。
  • 默认的Kubernetes CPU调度策略（none）会带来上下文切换开销，若未开启CPU管理器的static策略，核心调度的随机性会影响构建性能。
  • requests.cpu=4设置过低可能导致调度器误判，但你是单节点场景，这个影响可以忽略。

3. 如何让ADO代理和Gradle构建最优利用临时SSD？ #

• 确保临时磁盘挂载正确：
  • AKS中Standard_D16ds_v5的NVMe临时磁盘默认挂载在节点的/mnt/resource路径，需通过hostPath卷将该路径挂载到容器内，而非使用默认emptyDir（可能指向较慢的根磁盘）。示例Pod配置片段：

    volumes:
      - name: gradle-cache
        hostPath:
          path: /mnt/resource/gradle_cache
          type: DirectoryOrCreate
    containers:
      - name: ado-agent
        volumeMounts:
          - name: gradle-cache
            mountPath: /mnt/gradle_cache
    

• 保障Gradle缓存生效：
  • 除设置GRADLE_USER_HOME=/mnt/gradle_cache，需在gradle.properties中开启本地构建缓存：

    org.gradle.caching=true
    android.enableBuildCache=true
    

  • 检查容器内缓存目录的权限，确保ADO代理进程有读写权限（可临时用chmod -R 777 /mnt/gradle_cache验证，生产环境建议配置对应用户组权限）。
• 验证磁盘性能：在容器内执行dd if=/dev/zero of=/mnt/gradle_cache/test bs=1G count=1 oflag=direct测试写入速度，NVMe磁盘应达到1GB/s以上，确认磁盘被正确利用。

4. AKS中优化Android构建的最佳实践 #

• CPU资源配置优化：
  • 调整容器CPU limits为14（预留2个核心给节点系统进程），requests设置为8，确保Gradle有足够资源，同时避免节点资源耗尽。
  • 开启Kubernetes CPU管理器static策略，将容器绑定到固定CPU核心，减少上下文切换开销：在AKS节点池配置中设置--cpu-manager-policy=static，并将容器CPU requests设为整数核心（如8）。
• Gradle构建参数优化：
  • 构建命令添加--parallel --max-workers=12（worker数量建议设为CPU核心数的70%-80%），开启并行构建。
  • 在gradle.properties中配置合理的JVM堆内存：org.gradle.jvmargs=-Xmx32g -XX:MaxMetaspaceSize=4g（利用节点64GB内存的一半给Gradle）。
  • 启用Gradle守护进程：org.gradle.daemon=true，避免每次构建重启JVM。
• 缓存策略优化：
  • 配置Azure Artifacts作为Gradle远程缓存，跨节点复用构建缓存，避免节点故障或扩容后缓存丢失。
  • 定期执行gradle cleanBuildCache清理过期缓存，避免磁盘空间不足。
• 节点与代理配置：
  • 使用固定节点池（关闭自动缩放），确保Pod始终调度到同一节点，复用本地缓存。
  • 使用最新版本的Azure DevOps自托管代理，减少代理本身的性能开销。
  • 为ADO代理Pod设置节点亲和性，确保其仅调度到配置NVMe临时磁盘的节点。
• 构建流程拆分：
  • 将Android构建拆分为lint检查、单元测试、编译、打包等独立任务，在Azure DevOps pipeline中并行执行，提升整体效率。

内容的提问来源于stack exchange，提问作者Vowneee