第638章

。策略。因此，我们可以通过调整权重知对于一阈值也是给个器来说，它的权重和给定的感的，代表一种决策和阈值来改变这个策略定

数来表一般用，为了表达更方便，-thresh要，这里的b被称指出的一点是resh关于阈值th它的相反�old，这里需为偏置（b达：b=;ias）。

，否则输出o+b&gt�这样，前面计算输出的规则就修改为：如+w3x3+...0，则输出outp果w1x1+w2x2ut=0。ut=1

2，则b=3权重w1=w2=-而。

�，只有当x1。0。而t=1的时候其它输入的情况，ou=;)1ᬐ=−1，小于⼒−2)1;+t=0，因为(᠅𛗵下，都是out;(−2很明显

非门”！所以在实际情况下，这其实是一个“与

�𜖙在计算机科学中，与univer。这被称为与非何其它的门部件门的普适性(g过组合的方式表达任有门部件中比较特殊的一个，它可)。非门是所sali以通

，来个与非门，那么理论上过设置门部件。既然感知器能够通恰当的权重和偏置参数它也就能表达任意其它的表达一

够像前面三体中的例子因此，感知器也算机系统。从而组成一能一样，通过彼此连接个计

，这只不过是让事情，我们已经有现成的计算机了但有什么值得惊喜的这似乎没复杂化了而已。

单个感知器能需要做的事情很，所以则是个感知器连接起来。将多有限。要做复杂的决策

万个，甚至数十万个参数，如果手工一个一地去配置这些参数了。永远也完成不了，恐怕这项任务而实际中的网络可能会有上个

网在于这里。方就而神经络最有特色的地

练数据数，而是，让网当的值。在学习过程不是为网络指我们中为所有参数找到最恰定所有参己在训练中去学习，络自提供训

数据，称大体的是什么，这样的每为训练样本le）。运转思一份训练（tr�某路是这样：我们告诉网�examp络当输入是个值的时候，我们出期望的输

具体例子：教学生某个抽象的知识个过程相当于老师在的时候，举一个这

一般经网络的训练中象的知识。这在来说，我们举的例立。个抽同样成达那表神子越多，就越能

万个训练样本，就自动从这些样本中的知识我们可以向。份隐藏在背后的抽象总结出那然后网络网络灌入成千上

数的取值。识的体现这份知络的所有权重和偏置参，就在于网

。假设各个参数参数值计算出唯一的一一个初始值，当时候，它会根据当前个训练样本的我们输入一个实际输出值有

，这时以试着调整某些参数出值的值，让实际输期望的输和期望输出值候，我们可这个值可能跟我们尽量接近。出值不一样。想象一下

之后就结束了。，网限接近，这样训练过程这时每一次的实际输出已经无有的训练样本输入完毕值和期望输出值到了最当所络参数也调整佳值，

给出正确（或接的反应了，那么再给它假设在训练过程中，过的数据，策。这络工作的原理。数万个样本能够它也应该有很大概率给出我们预期的决网络已经对输入一个它没见近正确）就是一个神经网

练过程这里还有？如何去调和期望输出值产生一个问题，在训但整各个参数呢时候，要差异的中，当实际输出值

式获得期望的输出，这个的弄清楚：通过调整参数方法行得通吗？方当然，在思考怎么做之前，也应该先

于感知器网络来说，这个方法实际上，对。基本不可行

不全的感知器网络中，输入不变，我们改变某的如果维持上图有39个参数本完可预个参数测。的值，那么最终输出基比如在

问题的关键在于（二进制的，只能是0它或者从0变到1;0），当然也可能维持不或者1。或从1;变到：输入和输变。这个出都是

连，有输出）个网络看成一个函数（如果把整续的。，那么这个函数不是有输入

输出能神经网络。于是，这就经元。为了让训练成为出现了sigmoi可能，我们需要一个d神因此，输入和够在实数上保持连续的

结构类似经常使用的基ron)moid但有两个重要的它与感知器的是现代神经网络区别。，�不是唯一的结构）。神经元(sigmoidneu本结构（当然

第一，它的输入不再以是任意0~1之间的实数。限制为0和1，而可

的计算作为输出。个输入的加1，而是将各再加上偏置参数出也不再限制为0和权求和，经过一个称函数第二，它的输为sigmoid

ut=㰰(z)၁;)。具体来说，假设z=+...+b1/(1+e-+w2x2+w3x3，那么z⺭输出outp，其中：㰰(z⼑

的实数，这个输层神经元的输入出值可以直接作为下一𗡔z)是一个平滑、连续之间~1之间。的输出，保持在0也是0~1的函数。而且，它

使得逐步调整参数值的产络的输入和输出都小的改变。这样就训练神经网络之后，网变为值进行微小的改可以想象个参数的，在采用sigmo成为可能。对某变的时候，连续的了，也就是说，当我们它的输出也只是id神经元组装生微

learnlnetwor员曾经也做ing》这本在历史上，很多研究人例子。neura�书中也曾经提到过这个ksanddeep过尝试，michnielsen的书《

𚸕度神经网络(deeptwors)，那么就会有多层隐藏nerualnetw网络(shallo�层隐藏层，这个神经网络只有一属于浅层的神经层。ks)。而真正的深wneural

计方左右脑半球的设神经元系统采用了造。式进行设计和制

，受s;i;g最右侧则是输出层(;a;y;0;个神经元节出也肯定是0~1之o;u;t;e;r;)，有1;，每个输;m;o间的数。的限制i;d;函数㰰(z)p0，1，2，...，9。当然;u;t;l;代表识别结果是点，分别

的值最大，最终的识别结果就是出们得组输出值之后，哪个输它。那我到一

出为1，其它输式则是：正确的那个数训之间也是全连输出层出接。练的时候而在字输为0，隐藏层和，输出的形

个0个，偏置参数有1数为Ꮍ5+10=25个，的权重参数ᒾ=1191共参数：11910+=11935个。有78415+1神经网络共总

惊人的数字。这是一个非常

本章完)(