You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

咨询S3P是否支持排除无权限KMS加密对象以完成100TB S3数据复制

S3P 排除功能与大文件复制适配方案
  • S3P支持和aws s3 sync逻辑一致的--exclude/--include参数,可通过通配符匹配对象路径实现排除,用法示例:
    s3p copy s3://source-bucket s3://target-bucket --exclude "path/to/exclude/*"
    
  • 针对你需要排除无KMS访问权限对象的需求,有两种更精准的方式:
    1. 跳过错误对象:使用--skip-errors参数,S3P遇到无KMS解密权限的对象时会自动跳过,不会终止任务,同时可通过--log-file s3p-copy.log记录所有被跳过的对象,方便后续核对。
    2. 精准预筛选排除:先通过S3P的list命令或AWS Athena查询存储桶对象元数据,定位使用目标KMS密钥的对象,生成排除列表文件后,用--exclude-from-file exclude-list.txt参数批量排除这类对象。
  • 关于100TB数据2天内完成复制的性能需求,S3P的并行复制架构刚好适配,建议根据服务器配置调整--num-workers(例如设置为--num-workers 64)和--multipart-chunk-size(大文件可设为10GB)参数,进一步提升复制速率。

内容的提问来源于stack exchange,提问作者Siddhartha Sarnobat

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.07.26 05:07:17