基于TensorFlow Federated的KDD数据集二分类器联邦训练准确率为0的问题排查求助

我来帮你梳理几个核心排查方向，从你的代码和描述来看，集中式模型正常但联邦端完全不收敛，大概率是指标计算、客户端数据划分这类细节出了问题，以下是具体分析：

1. 优先检查Accuracy指标的适配性 #

你当前使用的tf.keras.metrics.Accuracy()是精确匹配指标，它会直接对比模型输出和标签的数值是否完全相等。但你的模型用sigmoid输出的是0-1之间的概率值，而标签是0/1的离散值——比如模型输出0.6、标签是1，这个指标会判定为错误，最终导致全量预测都被算错，准确率自然为0.0。

解决方法：改用二分类专用的BinaryAccuracy，或者手动将预测值转为0/1后再计算准确率：

# 替换model_fn中的metrics参数
metrics=[tf.keras.metrics.BinaryAccuracy(threshold=0.5)]

2. 修复客户端数据生成逻辑 #

你的create_tf_dataset_for_client_fn存在严重问题：不管传入哪个client_id，都返回整个训练集的所有数据，这完全不符合联邦学习的客户端数据划分逻辑！每个客户端应该只拿到对应id的样本，而不是全量数据。

修改后的客户端数据生成函数：

def create_tf_dataset_for_client_fn(client_id):
    # 根据client_id筛选对应客户端的样本
    client_subset = train_set[train_set['id'] == int(client_id)]
    dataset = tf.data.Dataset.from_tensor_slices(client_subset.to_dict("list"))
    return dataset

def create_tf_dataset_for_client_fn_2(client_id):
    client_subset = test_set[test_set['id'] == int(client_id)]
    dataset = tf.data.Dataset.from_tensor_slices(client_subset.to_dict("list"))
    return dataset

3. 验证预处理后的数据正确性 #

虽然你确认了数据集签名，但最好手动检查几批数据，确保特征和标签的维度、取值都符合预期：

# 取一批预处理后的数据查看
for batch in preprocessed_example_dataset.take(1):
    print("特征维度:", batch['x'].shape)  # 应该是(batch_size, 41)
    print("标签取值:", batch['y'].numpy())  # 应该只有0和1
    print("特征样本:", batch['x'].numpy()[0])  # 确认特征是标准化后的数值

重点确认：特征拼接时有没有误把标签class列混进去，或者遗漏了某些特征列，导致输入维度不是41。

4. 确认损失函数的参数设置 #

你的模型输出是sigmoid后的概率，需要确保损失函数没有按logits模式计算：

# 在model_fn中明确设置from_logits=False（默认是False，但显式声明更稳妥）
loss=tf.keras.losses.BinaryCrossentropy(from_logits=False)

如果误设为from_logits=True，损失计算会完全偏离预期，导致模型无法收敛。

5. 调整训练参数 #

联邦学习通常需要比集中式训练更多的迭代轮次，且学习率可能需要更低：

• 先把NUM_ROUNDS从10提高到50，观察损失和准确率的变化趋势
• 尝试降低客户端学习率（比如从0.001降到0.0005），避免梯度震荡

6. 检查模型输出范围 #

训练几轮后，可以取出当前模型测试输出是否正常：

# 从state中提取当前模型权重并加载到Keras模型
keras_model = create_keras_model()
keras_model.set_weights(tff.learning.ModelWeights.from_model(state.model).trainable)

# 取一个测试样本预测
test_batch = next(iter(preprocessed_example_dataset))
prediction = keras_model.predict(test_batch['x'])
print("模型输出范围:", prediction.min(), prediction.max())

如果输出全是0、全是1或者出现NaN，说明模型梯度出现异常，需要检查权重初始化或激活函数的合理性。

内容的提问来源于stack exchange，提问作者Kaypee