PyTorch模型未在forward中调用Dropout，是否实际生效？

• 模型是否实际使用Dropout？
  完全没有。PyTorch的层只有在forward方法里被调用时，才会真正参与数据计算流程。你只是在__init__里实例化了Dropout层，但没把它加到forward的数据流路径中，这个层就只是模型里的一个“闲置模块”，不会对输入做任何dropout操作，也不会影响模型的训练和推理结果。

• 为什么加了forward调用后打印结果一致？
  因为打印模型时，PyTorch是遍历你在__init__里定义的所有子模块（包括实例化的Dropout）来展示结构的，和forward里有没有调用无关。不管你用不用这个层，只要它被定义为模型的属性（比如self.dropout = nn.Dropout(0.5)），打印模型时就会显示出来。

你可以通过实际运行验证：训练模式下，多次前向传播同一输入，若Dropout生效，每次输出会有随机性；若没生效，输出完全固定。比如：

import torch
import torch.nn as nn

class MyModel(nn.Module):
    def __init__(self):
        super().__init__()
        self.fc = nn.Linear(10, 5)
        self.dropout = nn.Dropout(0.5)

    def forward(self, x):
        x = self.fc(x)
        # 取消下面注释，Dropout才会生效
        # x = self.dropout(x)
        return x

model = MyModel()
print(model)  # 始终会显示Dropout层

model.train()
x = torch.randn(1, 10)
output1 = model(x)
output2 = model(x)
# 没调用Dropout时输出True，调用后输出False
print(torch.allclose(output1, output2))

内容的提问来源于stack exchange，提问作者D_M