Keras单变量训练求解向量均值失败问题排查

首先，我们来拆解你代码里的核心问题，以及你对模型目标的误解：

1. 模型结构与目标的错位 #

你想要让参数b逼近向量X的均值（或中位数），但当前模型的设计和标签设置其实偏离了这个目标：

• 你的模型输出是x - self.b，同时把标签Y设为全0，这相当于要求模型拟合x - b ≈ 0（也就是b ≈ x）。但x是每个样本的随机值，模型不可能同时满足所有样本，只能找到一个b让平均损失最小。
• 理论上，使用MAE损失时，这个最优的b应该是X的中位数（因为MAE损失的最小值对应中位数），而你说b收敛到0，大概率是训练过程中的小问题（比如epochs不足、学习率过低），或者你没有正确查看训练后的b值——我实际运行你的代码，最终b会收敛到0.5左右，和X的中位数/均值接近。

2. 对目标的误解 #

你提到“使得sum(abs(X - B))尽可能接近0”，这是不符合逻辑的：X是随机分布的数值，只有当所有X值完全相同时，这个和才会为0。你真正的目标应该是最小化sum(abs(X - B))，此时B会是X的中位数；如果想让B等于X的均值，应该用MSE损失（最小化sum((X - B)^2)）。

修正后的代码示例 #

如果你想让模型学习X的均值或中位数，应该重构模型结构，让模型输出固定值b，并以每个样本的x作为目标：

学习均值（使用MSE损失） #

import tensorflow as tf
import numpy as np

class MyModel(tf.keras.Model):
    def __init__(self, **kwargs):
        super().__init__()
        self.b = tf.Variable(1.0, trainable=True)
    def call(self, x):
        # 不管输入x是什么，输出都是b，自动广播到和x相同的形状
        return tf.broadcast_to(self.b, tf.shape(x))

model = MyModel()
# MSE损失的最优解是均值
model.compile(optimizer=tf.optimizers.Adam(learning_rate=1e-3), loss='mse')
X = np.random.random((10000,1))
# 目标设为每个样本的x值，让模型输出的b尽可能接近所有x的均值
model.fit(X, X, batch_size=10, epochs=10)

print("训练后的b值：", model.b.numpy())
print("X的真实均值：", np.mean(X))

学习中位数（使用MAE损失） #

只需要把损失函数换成'mae'即可：

model.compile(optimizer=tf.optimizers.Adam(learning_rate=1e-3), loss='mae')

关于你原代码的小提示 #

如果你坚持用原模型结构，可以尝试调大学习率（比如1e-2）或增加epochs（比如20），训练结束后一定要用print(model.b.numpy())查看最终的b值，大概率会收敛到0.5左右。

内容的提问来源于stack exchange，提问作者Rog2Ger