You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

Azure Data Factory(ADF)zip压缩输出文件大小限制咨询

ADF Copy活动输出Zip压缩包的大小限制及实践说明

官方限制说明

ADF没有公开标注Copy活动输出zip compression格式文件的单文件硬上限,实际容量限制主要来自集成运行时(IR)的临时存储资源:

  • 采用Azure托管IR时,单节点临时存储上限为800GB,压缩过程会占用该临时空间存储中间文件,因此单个Zip包最大不要超过800GB,超出会触发空间溢出导致任务失败。
  • 采用自托管IR时,上限完全取决于部署IR的服务器的临时磁盘容量,只要临时磁盘预留空间大于预估的Zip包最终大小,即可支持TB级别的Zip包输出。

实际生产实践经验

我们团队在冷数据归档场景下有相关生产经验:通过配置8核16G内存、挂载2TB SSD临时盘的自托管IR,从blob storage导出冷数据生成过最大1.2TB的Zip压缩包,任务全程运行正常。100GB级别的Zip包属于我们日常处理的常规量级,不管是托管IR还是自托管IR都能稳定支持,不需要额外做特殊适配,只要提前确认IR临时存储容量足够即可。

相关注意事项

  • 生成大体积Zip包时,建议将Copy活动的并行度设置为1,多并行块写入容易导致Zip包索引损坏,影响后续解压的兼容性。
  • ADF生成的大于4GB的Zip包默认采用Zip64规范,要确认下游解压工具支持该格式,避免出现无法识别压缩包的问题。
  • 若预估单Zip包大小超过1TB,建议按源数据的分区规则拆分为多个Zip包输出,降低单任务运行时间过长、失败后重试的成本。

内容的提问来源于stack exchange,提问作者bilak

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.09.30 19:45:04