神经元组装神经网络之后,网络的输入和输出都变为连续的了,也就是说,当我们对某个参数的值进行微小的改变的时候,它的输出也只是产生微小的改变。这样就使得逐步调整参数值的训练成为可能。
在历史上,很多研究人员曾经也做过尝试,ichael nielsen的书《neural orks and deep learng》这中也曾经提到过这个例子。
这个神经网络只有一层隐藏层,属于浅层的神经网络shallo neural orks。而真正的深度神经网络deep nerual orks,则会有多层隐藏层。
神经元系统采用了左右脑半球的设计方式进行设计和制造。
最右侧则是输出层output yer,有10个神经元节点,分别代表识别结果是0,1,2,,9。当然,受sigoid函数σz的限制,每个输出也肯定是01之间的数。
那我们得到一组输出值之后,哪个输出的值最大,最终的识别结果就是它。
而在训练的时候,输出的形式则是:正确的那个数字输出为1,其它输出为0,隐藏层和输出层之间也是全连接。
神经网络共的权重参数有78415+151011910个,偏置参数有15+1025个,总共参数个数为:11910+2511935个。
这是一个非常惊人的数字。
『加入书签,方便阅读』