Keras通道自定义连接与自定义激活函数可训练参数实现问题

你的现有代码逻辑完全可以正常运行，自定义连接与激活函数对应的可训练参数都可以正常训练，核心依据如下：

• Lambda层实现的特征切片属于无参数的纯数值运算，Keras后端可自动推导反向传播路径，不会出现梯度中断，梯度可以正常传递到自定义连接对应的6个Dense层
• 自定义的sin、cos激活函数基于Keras内置后端算子实现，本身支持微分计算，你通过get_custom_objects做全局注册的方式也符合Keras自定义算子规则，对应层的权重、偏置参数都可以正常参与梯度更新

现有代码还有不少可以简化、提升性能的空间：

• 冗余切片简化：你当前对同一个输入通道做了两次重复切片（比如x通道分别切给group1和group2），可以直接复用一次切片结果，无需定义多个Lambda层，甚至可以直接省略Lambda层，Keras支持输入张量直接索引，代码可以简化为：

x_channel = inputTensor[:, 0:1]
y_channel = inputTensor[:, 1:2]
z_channel = inputTensor[:, 2:]
group1, group2 = x_channel, x_channel
group3, group4 = y_channel, y_channel
group5, group6 = z_channel, z_channel

• 激活函数注册简化：无需额外封装Activation层做全局注册，直接将自定义函数传入Dense层的activation参数即可，模型保存加载时指定custom_objects参数即可，避免污染全局自定义对象空间，写法更灵活：

# 直接使用，无需提前注册
xsin = Dense(1, activation=sin_activation, use_bias=True)
# 加载模型时的对应写法
from keras.models import load_model
model = load_model('your_model.h5', custom_objects={'sin_activation': sin_activation, 'cos_activation': cos_activation})

• 深层全连接块优化：10层连续的128维全连接层容易出现梯度消失、过拟合问题，可以做如下调整：
  • 每2-3层全连接加入残差连接，缓解梯度消失问题
  • 适当加入Dropout层（建议比率0.1-0.3）或者BatchNormalization层，提升模型泛化能力、加快收敛速度
• 全连接块写法简化：可以用循环替代手动写10层Dense的代码，提升可维护性：

x = outputTensor
for _ in range(10):
    x = Dense(128, activation='relu', use_bias=True)(x)
outputamplitude = Dense(1, activation='elu', use_bias=True)(x)

内容的提问来源于stack exchange，提问作者Paul Goyes