ResnetV2模型TensorBoard可视化图混乱，如何清晰查看网络结构？

我之前也碰到过官方ResNet在TensorBoard里图太散的问题，给你几个实用的解决办法，亲测有效：

• 利用TensorBoard内置布局工具快速整理
  打开TensorBoard的Graph页面后，先试试这几个操作：

  • 用鼠标滚轮缩放，或点击右上角的缩放按钮调整视图大小，再拖拽平移定位核心结构；
  • 开启左侧面板的Group by Scope选项，官方ResNet代码里每个block都有明确的命名空间（比如resnetXX/block1），开启后会自动把同属一个scope的节点折叠成模块，瞬间清爽很多；
  • 选中分散的相关节点，点击顶部的Cluster按钮，手动将它们聚合成一个模块，适合调整局部布局。

• 训练时精简日志记录的图结构
  如果你用tf.summary.trace_on记录计算图，试试调整参数减少冗余节点：

  tf.summary.trace_on(graph=True, profiler=False)
  # 运行模型前向传播
  tf.summary.trace_export(name="model_trace", step=0, profiler_outdir=None)
  

  关闭profiler可以避免记录过多性能相关节点，大幅降低图的复杂度。另外也可以直接生成Keras模型的高层结构图：

  model = resnet_model.resnet50(num_classes=1000)
  tf.keras.utils.plot_model(model, to_file='resnet_model.png', show_shapes=True)
  

  这个图层级清晰，也可以导入TensorBoard查看。

• 关闭冗余显示选项
  在TensorBoard的Graph页面左侧，关闭Show all device placements选项（显示CPU/GPU节点的开关），这些设备节点会把图拉得极宽；另外调整Max depth参数，比如设为3，只显示最上层模块，需要细节时再逐层展开。

• 切换到Graph Explorer模式
  点击Graph页面顶部的Graph Explorer按钮，切换后可以通过左侧层级列表展开/折叠各个模块，还能搜索特定节点，比平铺视图更容易定位核心结构。

内容的提问来源于stack exchange，提问作者Pfaeff