自研JavaScript神经网络反向传播求解XOR问题时无法收敛
从零实现JavaScript神经网络:XOR问题训练时权重无法收敛
我最近出于学习目的,从零开始用JavaScript写了一个神经网络,第一个任务就是解决经典的XOR问题。目前这个网络已经能顺利搞定OR和AND问题,但一旦引入隐藏层,训练过程中权重就没办法正常收敛了。
我采用的是3层网络架构:
- 输入层:2个输入神经元 + 1个偏置神经元
- 隐藏层:2个神经元 + 1个偏置神经元
- 输出层:1个输出神经元
这个架构理论上完全可以解决XOR问题——我试过手动设置权重(比如写let W1 = new Matrix(...)来指定权重值),网络能正确输出XOR的结果,但自动训练时权重就是不往正确的方向更新,一直没法收敛到能解决问题的状态。
内容的提问来源于stack exchange,提问作者Patric
相关产品推荐
相关产品推荐

