这个策略的，代表一种决。来对于一个给定的感知说，它的权重和阈值也是给定重和阈值来改变，我们可以通过调整权器策策略。因此

shold，这里的bold，这里表达：b=-thre便，一般用它的达更方一点是，为了s）的需要指出值thr。关于阈表被称为偏置（b;ia�相反数来

...+b&+w2x2+w3x3+这样，前面计算⼑修改为：如果w1出output=0。规则就的put=1，gt0，则输出out输出否则输

2，则b=3。而权重w1=w2=-

;)1ᬐ=−1，小情况下，。=于0。而其它输入的0，因为(−2)1;+;(−2都是output=1utput=很明显，只有当x1x2=1的时候，o

实际情况下，这其实是一个“与非门”！所以在

普适性(门是所有门部gateuniver在计算机科学中，与非门部件。这被殊的一个，它可以任何其它的通过组合的方式表达非门的称为与sality)。件中比较特

达一个与非门，那。它也就能表达任意其它的门部件过设置数，来表恰够通么理论上既然感知器能当的权重和偏置参

中的子一样，通过彼个计算机系统。例此连接从而组成一因此，感知器也能够像前面三体

情复杂化了而已。机了，这只不过是让事喜的，我们已经有现什么值得惊成的计算但这似乎没有

单的事策，所以则是个感知器能需要将多个感知器连情做的决接起来。很有限。要做复杂

参如果手工一个一个恐怕这项任务永远会有上万个，甚至际中的网络可能地去配置这些数，也完成不了了。数十万个参数，而实

最有特色的地而神经网络方就在于这里。

当的值。程我们不是为网络指定所有参中去学习，在学习过让，提供训练数据数，而是网络自己在训练中为所有参数找到最恰

转思路是⳩告诉网络当exam大体的运这样：个值的时候，我们期望的输出训练数据输入是某ple）。我们，称为训练样本（t𚸗�是什么，这样的每一份

这个师在教学生例子：过程相当于老的时候，举一个具体某个抽象的知识

样成立。的知识。这在神经网子越多一般来说，我们举的例，就越能表达那个抽络的训练中同象

我们可以向，然后网络灌入成千上万个训练样本中总结出那网络就自动从这些样本份隐藏在背后的抽象的知识。

参数的取值。网络的所有权重和偏置这份知识的体现，就在于

值计算出唯的时候，它会根据们输，当入一个训练样本假设各个参数有一的一个我一个初始值当前参数实际输出值。

值不实际输出值整某些参数的值，让的输出这个值可能跟我们期望时候，我们可以试着调和期望输出值样。想象一下，这尽量一接近。

训练过程就结束了无限接近，这样后，网络参数当所有的训练样本输入也实际输出值和期望输出值已经。调整到了最佳值，这时每一次的完毕之

数万个样入一个它没率给出我们预期的决策大概。这就是一个神或接近正确）的本能够给出正确（它反应它也应该有输训练了，那么再给经网络工作的原理。很假设在过程中，网络已经对见过的数据，

在训练过程中各个参数呢调差异的时候，要如何去，当实际输，但这里还有一个问题？出值和期望输出值产生整

得期思考怎么做之前，个方法得通吗？望的输出，这当然，在行也应该先弄清楚：通过调整参数的方式获

个方法基本不可行。感知器网络来说，这实际上，对于

比可预测。入不变，我们改变某39个参数的感知器中，如果维持输参数的值，那么网络基本完全不最终的输出如在上图有个

输入和输出能维持不变。它或者从0变到然也可1;（或从1;变到都是二进制的，0），当只能是0或者1。这个问题的关键在于：

有输输入，出），那么这如果把整个网络看成一个函数（有个函数不是连续的。

够在输入和可能，我d神经元神经网络。于i了让训练成为们需要一个因此，为实数上保持连续的输出能是，这就出现了sigmo。

𛶿�n)是两个重要的区别。oidneu一的经常使用的基本结构（当然不是唯𙋅，但有结构现代神经网络神经元(si它与感知器的结构类似moid）。

可以是实数。~1之，它的输入不的再限制为0和1，而任意0第一间

各个输入的加，它的输出也不再第二权求和再算作为输出限制为0和加上偏置参数。gmoid函数的计，经过一个称为si1，而是将

1/(1=w1x1+w2xz)，其中：㰰(z;)=b，那么输出output=㰰(具体来说，假设z2+w3x3+.-z)。ꡝ񱜃

的，保持在0~间的实数，这)是一且，它的输出也个平滑、连续的层函数。输入输出σ(z神经元是0~1之接作为下一个而1之间。值可以直

调出都变为连续的了，之后，网络的输入moid神整我数的值进行微小的改变参数值的的时候，它的输们对出也只是产生微小的经元组装神经网络训练也就是说，当和输可以想象，在采用si改变。这样就使得逐步某个参成为可能。g

��员曾经也做过尝试，marning》这本书中也到过这个例子。在历史上，很多研曾经提ichaelniel究人networeksandde的书《neural

这个神𜖗��网络(dee经网络只有一层隐藏s)，则会有多n层，属于层隐藏层。perualnetws)。而真正的深度浅层的神经网络(shallowneuralne神经

统采用了左右制造。脑半球的设计方式进行神经元系设计和

，每个输o;i;d;函数㰰�ⷯ(o;u;t;p;(z)的限制侧则是输出1，出也肯定是0最右g;m;间的数。~1之代表识别结果是0，r;)，有1;0;个神经元节点，分别，受s;i;2，...，9。当然层t;l;a;y

在得到一组输那我们最终的识别结果就个出值之后，哪是它。输出的值最大，

也是其它输是：正确全连接。而在训练个数字输出为1，出为0，隐藏之间的时候，输出的形式则的那层和输出层

参数有15+10=数神经网络共的权25个，总共参，偏置重参数有78415+1ᒾ=11910个个数为：=11935个。11910+25

这是一个非常惊人的数字。