如何让TensorFlow卷积神经网络仅输出非负预测参数？

方法1：给输出层添加非负激活函数 #

在最后一层Dense层添加激活函数，确保输出始终≥0。针对你的场景，推荐两种选择：

• ReLU：直接将负值截断为0，计算高效，适合严格要求非负的场景
• Softplus：平滑版ReLU，输出为ln(1+e^x)，不会出现硬截断，更适合需要小分数输出的场景

修改后的代码：

model=models.Sequential()

model.add(layers.Conv1D(32,3, activation='relu', input_shape=(200, 2)))
model.add(layers.MaxPooling1D(2))
model.add(layers.Conv1D(64, 3, activation='relu'))
model.add(layers.MaxPooling1D(2))
model.add(layers.Conv1D(128, 3, activation='relu'))
model.add(layers.Flatten())
# 若侧重小分数拟合用softplus，需严格截断用relu
model.add(layers.Dense(3, activation='softplus'))

方法2：对目标参数做对数变换后训练 #

利用指数函数恒正的特性，先对真实参数取自然对数，模型在对数空间训练，预测时再通过指数变换还原为原参数：

1. 预处理数据集：将真实参数y_true替换为np.log(y_true)
2. 模型保持原输出层（无激活），训练对数空间的误差
3. 预测时对模型输出做np.exp(pred_log)得到非负参数

示例代码：

import numpy as np

# 预处理标签
y_train_log = np.log(y_train)
y_val_log = np.log(y_val)

# 原模型结构不变
model=models.Sequential()
model.add(layers.Conv1D(32,3, activation='relu', input_shape=(200, 2)))
model.add(layers.MaxPooling1D(2))
model.add(layers.Conv1D(64, 3, activation='relu'))
model.add(layers.MaxPooling1D(2))
model.add(layers.Conv1D(128, 3, activation='relu'))
model.add(layers.Flatten())
model.add(layers.Dense(3))

# 编译训练
model.compile(optimizer='adam', loss='mse')
model.fit(x_train, y_train_log, validation_data=(x_val, y_val_log), epochs=...)

# 预测阶段还原参数
pred_log = model.predict(x_test)
pred_params = np.exp(pred_log)

这种方法能放大小数值参数的差异，帮助模型更好地拟合小分数。

方法3：自定义损失函数添加负预测惩罚 #

如果不想修改模型结构或标签，可在损失函数中对负预测值添加额外惩罚，迫使模型避免输出负值：

import tensorflow as tf

def non_negative_mse(y_true, y_pred):
    # 基础MSE损失
    mse_loss = tf.keras.losses.mean_squared_error(y_true, y_pred)
    # 对负预测值添加惩罚，系数可根据需求调整
    penalty = tf.reduce_sum(tf.maximum(-y_pred, 0.0)) * 0.1
    return mse_loss + penalty

# 编译时使用自定义损失
model.compile(optimizer='adam', loss=non_negative_mse)

内容的提问来源于stack exchange，提问作者LifeisGood94