TFF联邦学习更新State时出现loss上升、准确率小幅下降问题

• 检查训练循环逻辑
  确认你的State更新逻辑正确，TFF标准训练循环需要每轮将iterative_process.next返回的新state覆盖原有全局状态，代码结构参考如下：

  state = iterative_process.initialize()
  for round_num in range(TRAIN_ROUNDS):
    state, metrics = iterative_process.next(state, federated_train_data)
    print(f'round {round_num+1}, metrics={metrics}')
  

  如果没有正确更新state，会导致模型每轮都从初始状态开始训练，自然会出现指标来回波动的问题。
• 调整训练超参数
  首先降低客户端本地训练的学习率，同时减少本地训练轮次，non-IID场景下本地epoch超过3很容易导致客户端模型偏离全局最优方向，聚合后全局效果退化，可先尝试将本地epoch设置为1-2，客户端优化器学习率调整到原有的1/2-1/10，也可以给学习率添加每轮0.95的衰减系数，降低更新震荡的概率。
• 优化聚合与更新逻辑
  调用tff.learning.build_federated_averaging_process时，给服务端也添加优化器，同时开启梯度裁剪，将全局更新的范数限制在10以内，避免单次聚合更新幅度过大拉偏模型。如果客户端数据量差异较大，不要使用平均权重，改用按客户端样本量加权的聚合规则，降低小样本异常客户端的影响。
• 排查数据与指标问题
  首先确认输出的指标是全局测试集上的评估结果，不要直接使用客户端本地训练的损失平均值，这类平均值未考虑样本量差异，本身存在统计偏差。如果各客户端数据分布差异过大，可每轮参与训练前做客户端筛选，只选择数据分布和全局分布偏差在阈值内的客户端参与训练，极端non-IID场景下也可以给客户端添加少量全局共享数据做正则，降低本地训练的偏移。
  另外检查你的Keras模型是否添加了L2正则、Dropout等层，这类正则项会拉高训练损失数值，如果正则系数设置过大，也会出现损失上升、准确率小幅下降的情况，可先去掉额外正则项跑基线验证是否为正则参数问题。
• 调整批次配置
  客户端本地训练的batch size不要设置过小，小于16的批次会大幅提升更新方差，导致损失波动剧烈，可尝试将批次大小调整到32或64，降低单批次更新的随机性。

内容的提问来源于stack exchange，提问作者seni