TensorBoard EventAccumulator无法读取标量数据但UI正常显示问题

我用以下代码读取TensorFlow生成的事件文件，期望展示标量数据。代码能找到事件文件，但event_acc.Tags()返回的scalars是空列表，无法获取标量内容，但在浏览器中打开TensorBoard时所有图表都能正常绘制。

代码如下：

import os
import tensorflow as tf
from tensorboard.backend.event_processing.event_accumulator import EventAccumulator

def process_event_file(event_file):
    print(f"Processing event file: {event_file}")
    
    event_acc = EventAccumulator(event_file)
    event_acc.Reload()
    
    print(event_acc.Tags())
    scalar_tags = event_acc.Tags()['scalars']
    for tag in scalar_tags:
        scalar_events = event_acc.Scalars(tag)
        print(f"\nData for tag '{tag}':")
        for event in scalar_events:
            print(f"Step {event.step}, Wall time {event.wall_time}: {event.value}")

def find_and_process_event_files(directory):
    for root, _, files in os.walk(directory):
        for file in files:
            if file.startswith("events.out.tfevents"):
                event_file_path = os.path.join(root, file)
                process_event_file(event_file_path)
                print("\n" + "=" * 80 + "\n")

find_and_process_event_files("/content/drive/MyDrive/logs")

更新：打印输出显示scalars为空列表：

Processing event file: /content/drive/some-folder/logs/2023-04-13 13:52:36.450081/tensorboard/trainer/UNIQUE_ID_HERE/events.out.tfevents.xxxxxx.localhost.localdomain.xxxx.x.v2

{'images': [], 'audio': [], 'histograms': [], 'scalars': [], 'distributions': [], 'tensors': ........}

原因与修复方法 #

• 默认加载容量限制导致数据未被读取
  EventAccumulator初始化时默认对各类数据设置了加载上限（比如标量默认仅加载最近1000个数据点），如果事件文件中的标量数据超出上限，或者早期数据未被加载，就会出现scalars标签为空的情况。

  修复：初始化时设置无限制加载
  修改EventAccumulator的初始化代码，通过size_guidance参数指定无限制加载所有数据：

  event_acc = EventAccumulator(
      event_file,
      size_guidance={
          'scalars': 0,  # 0表示加载所有标量数据
          'images': 0,
          'histograms': 0,
          'tensors': 0
      }
  )
  

• 版本兼容问题
  输出的事件文件是v2格式，部分旧版本的EventAccumulator对v2格式支持不完善。可以尝试升级TensorBoard和TensorFlow到最新稳定版本，解决格式兼容问题。

• 验证事件文件内容
  可以用TensorBoard命令行工具验证事件文件是否真的包含标量数据：

  tensorboard inspect --event_file /path/to/your/events.out.tfevents.xxxxxx
  

  如果命令能输出标量标签，说明文件本身没问题，问题出在代码的加载逻辑上。

内容的提问来源于stack exchange，提问作者hanugm