深度学习是否存在仅允许输入A或B单向流通的门控网络结构？

完全存在这类门控网络，实现没有任何理论或工程障碍，能做到严格的二值通路切换：指定场景下仅单路输入无损失通过，另一路被完全屏蔽，和实体电路开关的通断效果一致。

你提到A、B各5维，拼接后正好是10维，和门控网络的输入维度完全匹配，按下面的逻辑搭建即可：

• 先做路由判断逻辑，最终只输出一个只能取0或1的二值标记g：
  • 如果切换规则是提前定好的，不需要网络自己判断什么时候切通路，这部分连训练都不用，直接按规则赋值就行：比如当前场景属于A类任务就给g=0，属于B类任务就给g=1。
  • 如果需要网络根据输入或者上下文自动判断路由，就加一个极简单的路由头：输入可以是A/B的特征、上下文嵌入，过一层线性层输出单个数值，前向传播时用阶跃函数做激活——数值大于0就输出g=1，小于等于0就输出g=0。训练的时候阶跃函数梯度为0的问题用直通估计器（STE）解决就行：前向严格走二值逻辑，反向传播的时候直接把梯度按恒等映射传回去，这个方案已经在大量动态路由、MoE模型里用了很多年，稳定性没问题。
• 生成10维通断掩码：g=0的时候，掩码前5位（对应输入A的位置）全填1，后5位（对应输入B的位置）全填0；g=1的时候反过来，前5位全0，后5位全1。
• 最后把这个10维掩码和拼接好的10维输入[A,B]做逐元素相乘，就是门控的最终输出。被掩码置0的通路信息会被完全挡住，一点都不会漏到后续层，置1的通路信息会原封不动传过去，完全符合你说的网络流通路控制效果。

别直接用普通Sigmoid软门控硬凑，Sigmoid输出是0到1之间的连续值，训练到收敛也很难做到严格的0或1，很容易出现两路信息混传的问题。只要在软门控输出后加一步硬阈值量化（输出大于0.5就置1，否则置0），配合STE训练，就能拿到严格的二值掩码，不会有信息泄漏的问题。

内容的提问来源于stack exchange，提问作者Gooby