自定义MSE损失函数报错：非即时执行下Tensor不可迭代

嘿，我来帮你解决这个问题！你写的损失函数思路很明确——找预测向量所有排列里和真实值MSE最小的那个，但为啥会报错呢？

为啥会触发这个错误？ #

在Keras默认的图执行模式下，y_pred是个Tensor对象，不是普通的Python列表/数组。itertools.permutations只能遍历Python原生的可迭代对象，根本没法直接处理Tensor，所以才抛出了TypeError: Tensor objects are not iterable when eager execution is not enabled这个错误。

另外还有个隐藏大坑：要是你的预测向量长度稍微大一点（比如10个元素），排列数就是10! = 360多万次循环，训练时每一步都跑这么多计算，速度会慢到离谱，完全不实用。

给你几个解决方案，按需选择： #

方案1：用tf.py_function兼容原逻辑（仅小维度场景可用） #

如果你的预测向量维度很小（比如≤5），可以用tf.py_function把原来的Python逻辑包装起来，让它能在图模式下运行：

import tensorflow as tf
from tensorflow.keras import backend as K
import itertools

def custom_mse(y_true, y_pred):
    def compute_min_loss(y_true_np, y_pred_np):
        min_loss = float('inf')
        # 遍历所有排列计算损失
        for perm in itertools.permutations(y_pred_np):
            current_loss = K.mean(K.square(K.constant(perm) - y_true_np), axis=-1)
            if current_loss < min_loss:
                min_loss = current_loss
        return min_loss
    
    # 用tf.py_function把Python逻辑接入TensorFlow计算图
    return tf.py_function(
        func=compute_min_loss,
        inp=[y_true, y_pred],
        Tout=tf.float32
    )

⚠️ 注意：这个方法的缺点是性能差，而且用了tf.py_function的模型没法直接导出成SavedModel格式，只适合小维度场景临时使用。

方案2：用排序替代排列（高效首选） #

其实你的需求本质上是忽略顺序的MSE计算——只要预测的元素和真实值的元素能一一对应，不管顺序如何。这种场景下，直接把真实值和预测值都排序后计算MSE，结果和找最优排列的最小MSE完全一致，而且时间复杂度是O(n log n)，快到飞起：

import tensorflow as tf
from tensorflow.keras import backend as K

def custom_mse(y_true, y_pred):
    # 对真实值和预测值分别排序
    sorted_true = tf.sort(y_true)
    sorted_pred = tf.sort(y_pred)
    # 计算排序后的MSE
    return K.mean(K.square(sorted_pred - sorted_true), axis=-1)

这个方法完全兼容图模式，训练速度快，还能正常导出模型，强烈推荐用这个！

内容的提问来源于stack exchange，提问作者Darlyn