TensorFlow Federated训练ResNet成功但评估、推理报错排查

你遇到的维度报错、评估准确率仅11%（10分类任务随机猜测的基准水平）和标签是否转one-hot没有任何关系，核心问题有3个：

• 权重加载错位直接触发维度报错
  你贴的报错信息提到不匹配的层是dense_10，但你提供的模型结构summary里最后两层全连接层名为dense_24、dense_25，不存在dense_10这个层。这说明你本地用来加载训练权重的模型，和联邦训练时使用的模型不是同一个实例/结构不匹配，加载权重时按层位置赋值而非按名称匹配，导致卷积层、BN层的权重被错误塞到了全连接层位置，最终触发维度不匹配。
  训练流程能正常运行，是因为训练阶段全程使用TFF初始化时构建的统一计算图和模型实例，层连接、参数形状完全匹配，不存在权重错位加载的问题。
• BatchNormalization层参数未被联邦聚合，导致推理失效
  你的模型中使用了多处BN层，TFF默认的联邦聚合逻辑只会同步更新可训练参数（BN的缩放系数gamma、偏移系数beta），不会同步BN层的滑动均值、滑动方差这两个非训练参数。
  训练阶段BN处于训练模式，前向传播用的是当前批次数据的实时均值和方差，不需要依赖滑动统计量，所以训练过程输出的loss、准确率指标看起来完全正常；但评估阶段BN默认切换到推理模式，依赖全局滑动统计量做归一化，这部分参数只在每个客户端本地小数据上更新过、没有经过全局聚合，数值完全错乱，直接导致模型输出失效。你之前用无BN的简单CNN跑通全流程，就是因为没触发这个问题。
• 训练/评估预处理逻辑未拆分，导致评估数据错乱
  你当前的preprocess函数同时包含repeat（数据重复）、shuffle（数据打乱）操作，这个逻辑仅适用于训练集。如果评估集、测试集也套用了同一个预处理函数，会导致评估阶段数据遍历次数异常、标签和样本错位，计算出的准确率完全没有参考价值。

• 解决权重加载错位问题：本地评估时不要每次重新创建裸Keras模型再按位置赋值权重，要么直接复用TFF训练阶段保存的Keras模型实例做评估，要么加载权重时传入参数by_name=True，保证权重和对应层按名称精确匹配，避免错位。
• 修复BN层的联邦同步问题：
  • 快速验证方案：先把模型里所有BN层替换为LayerNormalization，或者暂时移除BN层，先跑通联邦训练-评估全流程，确认指标正常后再逐步添加组件。
  • 标准生产方案：自定义TFF聚合逻辑，将BN层的moving_mean、moving_variance两个非训练参数加入全局聚合列表，每轮训练后和可训练参数一起在服务端按客户端样本量加权平均，再下发给所有客户端。
• 拆分训练/评估预处理逻辑：单独编写两个预处理函数，训练集保留repeat、shuffle操作，评估/测试集移除这两个操作，仅做形状调整、分batch、预取操作，保证评估阶段数据单次顺序遍历，样本和标签一一对应。
• 流程校验：正式跑多客户端联邦训练前，先拿单个客户端、单批次数据做本地训练-评估闭环，确认单客户端训练准确率能到90%以上，再扩展到多客户端场景，降低调试成本。

内容的提问来源于stack exchange，提问作者manuel