如何修改Polars Streaming API的临时文件存储位置?
修改Polars流处理缓存存储位置的方法
方法1:通过环境变量指定
在运行代码前设置POLARS_CACHE_DIR环境变量,指向Sagemaker实例上1TB磁盘的目标路径即可:
- 若通过终端启动脚本,先执行:
export POLARS_CACHE_DIR="/path/to/your/1TB-disk/polars_cache" - 若在Python代码内设置,必须先配置环境变量再导入Polars:
import os os.environ["POLARS_CACHE_DIR"] = "/path/to/your/1TB-disk/polars_cache" import polars as pl
方法2:代码内直接配置全局缓存路径
导入Polars后,直接调用set_cache_dir方法指定目标路径,无需提前设置环境变量:
import polars as pl pl.set_cache_dir("/path/to/your/1TB-disk/polars_cache")
额外提醒
- 提前确认目标目录的读写权限,可手动创建目录(比如执行
mkdir -p /path/to/your/1TB-disk/polars_cache),避免Polars创建缓存目录时出现权限问题。 - 替换路径时,要使用Sagemaker实例上1TB磁盘的实际挂载路径,比如常见的
/opt/ml/下对应目录,或你自行挂载的磁盘路径。
内容的提问来源于stack exchange,提问作者Kyle Gilde
相关产品推荐
相关产品推荐

