如何为含点的复杂S3桶名配置Spark的「逐桶」设置?
解决Spark逐桶配置中带点S3桶名的问题
不用转义桶名里的点,也别加引号,直接把带点的桶名原样填进配置项里就行。你之前加引号的写法是错的,正确配置应该是这样:
sparkConf.set('spark.hadoop.fs.s3a.my.whole.name.access.key', '<redacted>') sparkConf.set('spark.hadoop.fs.s3a.my.whole.name.secret.key', '<redacted>')
Hadoop S3A的逐桶配置规则里,桶名本身的点属于合法标识符,不需要做任何转义处理。之前你给桶名套引号的操作反而会让配置项把"my.whole.name"(带引号的字符串)当成桶名,自然匹配不到实际的my.whole.name桶。
内容的提问来源于stack exchange,提问作者scottlittle
相关产品推荐
相关产品推荐

