使用inplace=True时将F.leaky_relu赋值给x是否存在错误？

• 这种写法没有错误：当inplace=True时，F.leaky_relu会直接在输入张量x的内存空间上修改数据，同时函数会返回这个被修改后的张量引用。所以x = F.leaky_relu(x, negative_slope=0.2, inplace=True)是合法的写法，不会有问题。
• 绝对不会导致ReLU运算执行两次：inplace操作是原地修改原张量，函数内部只完成一次计算逻辑。赋值给x只是让变量x指向已经被修改好的张量，不会触发第二次运算。
• 不需要刻意调整参数或取消赋值：你可以保留当前的赋值写法，也可以直接写F.leaky_relu(x, negative_slope=0.2, inplace=True)（因为原x已经被修改），两种方式都能正确运行。如果把inplace设为False，函数会创建新张量存储结果，这时必须赋值给x才能保留激活后的结果，否则原x不会发生变化。

内容的提问来源于stack exchange，提问作者Sam333