如何在Flux Julia中调整优化器学习率？无需重建opt_state的方案

核心原因 #

你直接修改opt.eta不会同步到已构建的opt_state，因为setup(opt, nn)时会将opt的规则（比如Adam）复制到opt_state中，且Adam是不可变结构体，无法直接修改其字段，这就是你直接修改opt_state内部字段报错的原因。

官方推荐的优雅解法：使用Optimisers.adjust/adjust! #

Optimisers.jl提供了专门的函数来调整学习率，无需重建opt_state：

# 直接将学习率设置为0.001
opt_state = Optimisers.adjust(opt_state, η -> 0.001)

# 或者按比例衰减（比如乘以0.1）
opt_state = Optimisers.adjust(opt_state, η -> η * 0.1)

adjust函数会遍历opt_state中所有参数对应的优化规则，自动创建新的规则实例（替换不可变的Adam结构体），并返回更新后的opt_state。如果需要原地修改（部分场景适用），可以使用Optimisers.adjust!：

Optimisers.adjust!(opt_state, η -> 0.001)

为什么不推荐直接修改opt.eta？ #

修改opt.eta只会改变原始优化器实例的学习率，对已经通过setup创建的opt_state没有任何影响——后续训练时依然会使用opt_state中保存的旧学习率，达不到衰减的目的。

内容的提问来源于stack exchange，提问作者PokeLu