You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

PyTorch搭建ResNet时TensorBoard显示残差块直连全连接层是否正确?

结论

TensorBoard的显示是可视化折叠导致的,连接关系和你实际定义的网络结构完全一致,不存在结构错误。

原因解释

  • PyTorch的TensorBoard可视化默认会把无训练参数的算子(ReLU、Flatten)和正则化算子(Dropout)折叠到相邻的有参数层中展示,不会单独渲染节点,所以会出现残差块看似直接连接全连接层的视觉效果,实际这几个中间层都会正常执行计算。
  • 你定义的实际数据流顺序为:
    输入(bs, 1, 200) → 残差块输出(bs, 200, 200) → ReLU激活 → Flatten展平为(bs, 40000) → Dropout正则化 → Linear层 → Softmax输出,完全符合你代码的层级定义。

验证方法

你可以通过逐层前向测试确认结构正确性,测试代码如下:

import torch
x = torch.randn(1, 1, 200)
for idx, layer in enumerate(R.children()):
    x = layer(x)
    print(f"第{idx}层 {layer.__class__.__name__} 输出shape: {x.shape}")

输出结果会完全匹配你定义的层级计算逻辑,不存在层被跳过的问题。

补充说明

你贴出的模型原型中Dropout概率为0.1,代码中定义的是0.2,属于参数调整差异,不影响结构连接关系。

内容的提问来源于stack exchange,提问作者Wrong Wizzli

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.10.02 00:24:03