在TensorFlow中实现FedAvg算法时聚合后全局准确率为0%的问题

1. 先查模型权重加载是否到位 #

• 聚合完权重后，有没有正确调用global_model.set_weights(new_weights)给全局模型赋值？另外得确认new_weights的结构和全局模型的权重结构完全匹配——层数、每层参数形状都得对上。
• 打印任意一个客户端的权重形状，再打印聚合后的new_weights形状，对比全局模型get_weights()的形状，三者必须完全一致。

2. 联邦平均逻辑可能有问题 #

• 你现在用的是简单算术平均，但标准FedAvg应该是按客户端数据量加权平均。如果10个客户端的数据量差异大，简单平均会让全局模型偏向数据量小的客户端，直接导致模型退化。改成加权平均试试：

  def federated_averaging(client_weights, client_data_sizes):
      total_size = sum(client_data_sizes)
      new_weights = []
      for weights_list_tuple in zip(*client_weights):
          weighted_sum = np.zeros_like(np.array(weights_list_tuple[0]))
          for weights, size in zip(weights_list_tuple, client_data_sizes):
              weighted_sum += np.array(weights) * size
          layer_mean = weighted_sum / total_size
          new_weights.append(layer_mean)
      return new_weights
  

• 顺便检查np.mean的axis参数，你设的axis=0是对的（按客户端维度取平均），但如果client_weights的结构嵌套错了，比如客户端权重顺序搞反了，也会算错。可以打印某一层weights_list_tuple的长度，应该等于10（客户端数量），再看每个元素的形状是否一致。

3. 先确认客户端训练本身有效 #

• 单独拿一个客户端的模型，在全局测试集上跑评估，如果单个客户端准确率也很低，那根本不是聚合的问题，是客户端训练环节出问题了：
  • 查Bot-IoT数据集预处理：标签编码对不对？多分类任务要确保标签是整数编码或者one-hot，和模型输出层匹配；特征有没有做归一化/标准化？而且每个客户端的预处理逻辑要统一，最好用全局统计量来做标准化。
  • 查客户端训练代码：损失函数是不是选对了？多分类别用回归损失，得用SparseCategoricalCrossentropy或者CategoricalCrossentropy；学习率是不是太大导致模型不收敛；训练轮数够不够？
• 如果单个客户端准确率正常，聚合后直接变0，那肯定是聚合过程中权重被改坏了——比如浮点精度问题、形状不匹配导致赋值失败。

4. 全局评估的数据集和代码要核对 #

• 确认全局测试集是不是包含所有类别，而且标签编码和客户端训练时完全一致。
• 查评估代码：比如model.evaluate()的参数是不是搞反了特征和标签？多分类算召回率的时候，average参数要设对，比如macro或者weighted，别用binary。

5. 权重数据类型可能踩坑 #

• TensorFlow模型权重默认是float32，如果聚合过程中不小心转成了float64，赋值给模型时可能会有隐性错误，导致输出乱掉。聚合后强制转成float32试试：

  layer_mean = np.mean(np.array([np.array(weights) for weights in weights_list_tuple]), axis=0).astype(np.float32)
  

内容的提问来源于stack exchange，提问作者Shuroog