You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

在Azure Data Lake Gen1中无法查看Delta表数据的排查求助

问题排查:ADLS Gen1中Delta表在Azure Portal不可见但文件实际存在

可能的原因及对应解决方向

1. Delta表的底层文件结构特性

Delta表基于Parquet文件存储,并附带_delta_log事务日志目录,Azure Portal无法直接解析Delta表的结构化数据——你通过ls看到的是这些底层的Parquet数据文件和日志文件,但Portal只会展示文件列表,不会将其渲染为表格数据。

解决:

  • 不要通过Portal直接查看Delta表数据,改用Spark查询(SELECT * FROM exampleTable)或Delta Lake专用工具查看结构化内容;
  • 如果需要在Portal预览单文件数据,可以找到路径下的Parquet文件,右键选择"预览"来查看单文件的内容。

2. 挂载路径与ADLS实际路径不匹配

代码中使用的/mnt/datalake/Experiments/Example是DBFS的挂载路径,对应的ADLS Gen1实际存储路径可能不同。你在Portal中可能导航到了错误的ADLS路径,导致看不到文件。

解决:

  • 执行dbutils.fs.mounts()查看挂载映射关系,找到/mnt/datalake对应的ADLS Gen1实际路径(格式为adl://<your-adls-account>.azuredatalakestore.net/<root-path>);
  • 在Azure Portal中导航到该实际路径,即可看到存储的文件。

3. Portal元数据缓存/权限不一致

  • 缓存延迟:ADLS Gen1的文件元数据同步到Portal可能存在延迟,刚写入的文件需要等待几分钟或手动刷新页面(F5)才能显示;
  • 权限差异:你执行ls命令使用的权限(比如Databricks服务主体权限)与Portal登录账号的权限不一致,Portal账号可能没有该路径的读取权限。

解决:

  • 刷新Portal页面,等待5-10分钟后再查看;
  • 在ADLS Gen1的**Access Control (IAM)**中,为Portal登录账号添加Storage Blob Data Reader或Storage Data Contributor角色,确保拥有路径的读取权限。

4. 未显式指定Delta格式,实际写入的是普通Parquet表

你的代码中未指定.format("delta"),Spark默认会以Parquet格式写入表(而非Delta表)。即使如此,Portal仍可能无法直接识别Parquet的结构,或者你误以为写入的是Delta表。

解决:

  • 执行DESCRIBE EXTENDED exampleTable查看表的Provider字段,若显示parquet则说明不是Delta表;
  • 修改写入代码为Delta格式:
groupsUpdate.write.format("delta") \
  .option("path", "/mnt/datalake/Experiments/Example") \
  .saveAsTable("exampleTable")

内容的提问来源于stack exchange,提问作者MUHAMMAD UMER

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.07.07 06:24:54