能否通过AWS CLI直接从URL上传文件至S3存储桶?
AWS CLI能否直接从URL上传文件到S3?
直接使用aws s3 mv或aws s3 cp命令以HTTP/HTTPS URL作为源上传到S3是不可行的。这两个命令仅支持本地文件系统路径或S3存储桶路径作为源输入,无法直接识别并处理URL形式的文件源,你示例中的命令执行后会报错。
不过可以通过以下两种无本地临时文件的方式实现需求:
方式1:结合curl与aws s3 cp管道传输
利用管道将curl下载的文件内容直接传给aws s3 cp,避免本地存储:
curl https://anurl/demosource.png | aws s3 cp - s3://your-bucket/demo.png
其中-代表从标准输入读取数据,curl的输出直接作为aws s3 cp的输入。
方式2:用aws s3api put-object配合进程替换
借助shell的进程替换功能,将curl的输出作为对象内容上传:
aws s3api put-object --bucket your-bucket --key demo.png --body <(curl https://anurl/demosource.png)
<(curl ...)会创建一个临时文件描述符,将curl的输出传递给--body参数,同样不会在本地生成实体文件。
注意事项
- 确保服务器能正常访问目标URL(无防火墙限制、URL本身可公开访问或有合法权限)
- 大文件上传时,这种方式会占用服务器内存存储文件内容,若内存不足,需考虑分段上传方案(可结合
aws s3api create-multipart-upload等命令实现,但逻辑更复杂) - 上传完成后可通过
aws s3 ls s3://your-bucket/demo.png验证对象是否存在
内容的提问来源于stack exchange,提问作者Sabine
相关产品推荐
相关产品推荐

