浅谈反射算法

先来看一看反射算法与反射机制、反射现象有什么联系和区别？
 反射现象是由生物实验总结出的。最初是巴甫洛夫的条件反射实验，后来是斯金纳的工具性条件作用实验。然后又有缺省的工具性条件作用、多刺激反射等反射现象的揭示。反射现象基本是由反射的建立和反射的实现两个阶段完成。不同反射类型仅仅是由于建立反射的神经部位或个数的不同形成的。
 反射机制是由反射现象总结出来的大脑机制。由于反射被定义为神经间的联系，反射机制也是可以由生物神经网络实验和相应理论推论出来的机制。反射机制确定了神经元间建立起反射链的联系，而反射链就是一个局部神经网络。因此整个神经网络，又可以描述为由反射链组成的网络。
 反射算法，则是指依据反射机制的大脑处理信息的方式。其具体内容我们将在以后的浅谈中详细介绍。
 由上述的三个概念的介绍中，我们可以看出，反射现象偏重于反射的过程。反射机制偏重于反射的结构。反射算法偏重于信息处理的方式。

我们下面再来看看反射算法与计算机算法有什么截然的不同？
 计算机的所有算法，都建立在数据的传递的基础上。图灵机的纸带移动和读写头的移动，就是在进行数据传递工作，因此图灵定义的算法实际是在数据传递基础上的算法。目前计算机的主体模型——冯.诺伊曼型，也是用中心处理器和存储器件交流数据来执行算法的。
 而反射算法则不需要传递数据，它仅仅传递传递神经元间的兴奋，就可以实现运算。由于人们太熟悉计算机的数据传输了，我们就必须从多个角度来为人们建立反射算法的结构思想。
 我们先看一看，脑神经能否运用类似计算机的数据传输方式构建其结构。
 我们知道，目前神经学已经能够证明神经元具有兴奋态和抑制态，因此这两种状态可以与计算机代码“０”和“１”相比。于是很多人便由此想象大脑一定会有与计算机类似的信息形式。但是人们想象得太简单了。
 为什么呢？我们先假定人们想象的正确，那么会出现什么事情呢？稍有些计算机知识的人都会知道，一个具有双态的神经元，仅仅相当于计算机存储器的一位（bit），那么组成一个字节的信息，就要有八个神经元。目前计算机２５０Ｍ内存，就需要２０亿的神经元来组成。于是，按这个计算方法，目前的计算机不是不够模拟人脑，而是远远超过人脑。
 更不用说，人脑没有类似计算机信息传输的总线，神经元们不能直接挂在总线上，而是要通过一些传输信息神经元来连接，来传输信息。传输信息的神经元要比存储信息的神经元多几倍到几十倍。如此，与２５０Ｍ内存相当的人脑，就需要几倍、几十倍于２０亿的神经元来组成。这种人脑结构显然是与事实不符的。
 实际上，人脑的信息容量和处理能力，除去处理速度慢一些外，其它方面都是远远高于目前具有２５０Ｍ内存的电脑。要解释为什么人脑会优于电脑，则必须否定，人脑具有与电脑类似的信息表示结构。也就是说人脑的神经元，是利用与计算机截然不同的方式表示信息和传递信息的。

在突破计算机算法带来的思想瓶颈方面，人工神经网络理论是有着突出贡献的。我虽然多次批评人工神经网络是不可能实现模拟人类智能的。那是针对它的缺点而言。但是出于对科学负责的态度，我们也必须承认，人工神经网络理论在突破计算机算法瓶颈上的积极意义。
 学习过人工神经网络理论的人们都会知道，在介绍了神经元和神经突触的基本性能后，如果按计算机算法考虑，也还会把神经元与门电路比较，把被阈值限定的神经信息与电脉冲比较，依此构建以后的理论。但是人工神经网络理论并没有这样做，它开始构建人工编造的神经网络模型。该理论在上世纪六七十年代，正是因为这种奇特的做法，受到人们的狠狠批判，也因此被冷落了二十多年。
 人工神经网络的构建网络模型的做法，实际意味着它承认了，神经算法（真正的脑神经算法）不是以脉冲信号和门电路为基础的，而是以神经元的多向连接为基础的。这种接近“脑神经算法”的“人工神经网络算法”取得很大成功的原因，也就在于它的算法比计算机算法更接近大脑算法的实际。
 在学习人工神经网络的初期，我也还持有计算机算法的传统思想方法，无法理解人工神经网络中训练的结果保存在哪里？依传统的计算机算法，一定要为训练结果的保存，专门构建一个神经网络模型，使它们像计算机的存储器一样。但是人工神经网络训练信息的保存就表现为权值的改变。而这个权值在神经网络中是不移动的。因此“人工神经网络算法”也是一种没有先取值再计算的算法。
 但是，它的神经网络模型毕竟是人工编造的，有很多连接形式与大脑实际不符。而且在人工神经网络理论最出彩的地方，恰恰是它的败笔。那就是它引入了输入信号的函数，并给出了网络模型的传输方程。它在后面的精彩推证，获得计算机界和数学界的一片喝彩，完美、系统、逻辑、深奥、令人惊叹，等等赞扬声不绝于耳。但是因此它却从正确的起点走上万劫不复之路。
 这是因为，智能体系，包括模拟人类智能体系（强人工智能）和人工智能体系（弱人工智能）都不会是一个形式逻辑体系。把人工神经网络理论沟造成完美的形式逻辑体系，大量的应同数学表达式，就使人工神经网络理论进入“哥德尔定理泥潭”，是它永远不可能摆脱哥德尔定理的阴影。这个阴影使它永远发展不出能够解释自身的智能体系。

（有错字重发）
 在突破计算机算法带来的思想瓶颈方面，人工神经网络理论是有着突出贡献的。我虽然多次批评人工神经网络是不可能实现模拟人类智能的。那是针对它的缺点而言。但是出于对科学负责的态度，我们也必须承认，人工神经网络理论在突破计算机算法瓶颈上的积极意义。
 学习过人工神经网络理论的人们都会知道，在介绍了神经元和神经突触的基本性能后，如果按计算机算法考虑，也还会把神经元与门电路比较，把被阈值限定的神经信息与电脉冲比较，依此构建以后的理论。但是人工神经网络理论并没有这样做，它开始构建人工编造的神经网络模型。该理论在上世纪六七十年代，正是因为这种奇特的做法，受到人们的狠狠批判，也因此被冷落了二十多年。
 人工神经网络的构建网络模型的做法，实际意味着它承认了，神经算法（真正的脑神经算法）不是以脉冲信号和门电路为基础的，而是以神经元的多向连接为基础的。这种接近“脑神经算法”的“人工神经网络算法”取得很大成功的原因，也就在于它的算法比计算机算法更接近大脑算法的实际。
 在学习人工神经网络的初期，我也还持有计算机算法的传统思想方法，无法理解人工神经网络中训练的结果保存在哪里？依传统的计算机算法，一定要为训练结果的保存，专门构建一个神经网络模型，使它们像计算机的存储器一样。但是人工神经网络训练信息的保存就表现为权值的改变。而这个权值在神经网络中是不移动的。因此“人工神经网络算法”也是一种没有先取值再计算的算法。
 但是，它的神经网络模型毕竟是人工编造的，有很多连接形式与大脑实际不符。而且在人工神经网络理论最出彩的地方，恰恰是它的败笔。那就是它引入了输入信号的函数，并给出了网络模型的传输方程。它在后面的精彩推证，获得计算机界和数学界的一片喝彩，完美、系统、逻辑、深奥、令人惊叹，等等赞扬声不绝于耳。但是因此它却从正确的起点走上万劫不复之路。
 这是因为，智能体系，包括模拟人类智能体系（强人工智能）和人工智能体系（弱人工智能）都不会是一个形式逻辑体系。把人工神经网络理论沟造成完美的形式逻辑体系，大量的应用数学表达式，就使人工神经网络理论进入“哥德尔定理泥潭”，使它永远不可能摆脱哥德尔定理的阴影。这个阴影使它永远发展不出能够解释自身的智能体系。

（接第7楼）
 不过我们要感谢人工神经网络理论在算法上的突破。它的主要贡献就在于，它强调了神经元的连接形式的作用，给神经元间的联系以高度的重视。而不是死守作为计算机算法基础的“０”和“１”的信息编码形式，以及死守ＣＰＵ向存储器取值后再处理的计算方式。
 虽然人工神经网络理论最后又皈依到传统数学的形式逻辑体系中，但是它的突破在引导人们对大脑算法的认识上是功不可没的。也许几十年以后，人工神经网络理论作为一种过时的东西，已经毫无价值，但是它在计算机科学史上的贡献是不会被人们忘记的！

我们从人工神经网络理论，已经可以看到“脑神经算法”与“计算机算法”的截然不同之处。它不是靠信息向系统各个部位的传递来储备信息，也就不需要靠取值后再计算的方式进行计算。人工神经网络理论已经很重视网络的组成，即神经元如何联结为网络模型。也注意到网络联系中的某些东西就是信息编码，例如它用模拟神经元的权值改变表示训练的结果，也以此作为识别的依据。它已经用不可移动的权值表示某种信息。
 但是人工神经网络毕竟不是真正的大脑神经网络，它受到人类对神经网络认识的限制，它也受到人类主观构造的神经网络模型的限制。因此人工神经网络理论还不能使自己的算法（人工神经网络算法）进一步接近“大脑神经算法”。
 为人们更方便的理解“反射算法”，我们介绍一种与大脑神经算法更加接近的算法——群魔殿算法。
 这个算法的名称是我给起的，它来源于心理学的认知群魔殿的假设。
 “认知群魔殿”设想大脑里有一群认知小鬼，每个小鬼负责识别某一种特征，当需要识别的时候，信息被传递到小鬼们那里，各个小鬼以叫声表示对信息的认知，其中叫声最大的被确定。如果几个小鬼同时叫声最大，那么传入的信息就是有着几个小鬼负责认知的特征的组合信息。
 应该说，认知群魔殿的假设，并不完全符合大脑的实际，因此现在人们较少提到它。但是认知群魔殿设想体现出的算法，与大脑的实际算法有些类似。
 那么，“群魔殿算法”的特点是什么呢？它与计算机算法有什么本质的区别呢？
 从算法的角度看，认知小鬼们负担保存数据并兼有计算的责任。它们负责识别的特征，就是它们负责保存的数据。它们对传入信息的反应（发出叫声）就是它们进行的计算。但这只是计算的头一步。由叫声最响，或多个叫声最响的组合确认输入信息，是计算的第二步。由这两步计算得出最后结果。
 认知群魔殿与目前计算机结构上的区别之一是，它立足于一个并行处理体制。每一个认知小鬼都能够独立计算，并且可以同时进行计算。
 它与目前计算机处理方式的最大区别在于，它是把输入信息“洒”向认知小鬼们，而不是把认知小鬼们保存的信息取值到中心处理器。也就是它的计算方式与计算机取值计算方式截然不同。它的保存数据在计算中是不移动的。在“群魔殿算法”的计算中移动的是被处理的信息。而计算机从图灵机开始，到目前结构的计算机，数据在处理中都是移动的。图灵机的读写头和无限长纸带，就是为了保证数据移动的设计。而目前计算机ＣＰＵ的寻址周期和读写指令的设置，也是为了保证数据的移动的。
 “群魔殿算法”的不取值、不移动保存数据的方式，就是与计算机算法截然不同的方式。它用把输入信息“洒”向保存数据区域的方式，取代取值后计算的方式。

我们说“群魔殿算法”与大脑实际不符，因为它是假设了一种大脑中实际上不可能存在的机制——认知小鬼。它没有把认知小鬼与大脑实际的结构联系起来，也就是它没有用神经元间的联系，来解释大脑的结构。
 “群魔殿算法”没有做到的事情，恰恰“人工神经网络算法”做到了。后者的基本思路就是强调神经元间的联系方式。而“人工神经网络算法”也刚好没有把信息“洒”向数据保存区，作为自己的信息处理方式。显然，把“群魔殿算法”的信息“洒”向数据保存区方的信息处理式与“人工神经网络算法”的神经元联系方式结合起来，就可能产生一种更接近大脑实际的算法。

作者： idler4444 2007-3-4 13:25
写得很好，希望能看到进一步的分析。
----------------------------------------------------------------
 感谢支持�

但是，人们可能无法理解这样一点，不移动数据，那么信息如何传输？一个系统总不能不传输信息吧？再有，就是大脑中的数据是如何形成的？它们总不会都是生来就有的吧？
 这就要归功于大脑神经网络建立反射的这种形式了。我们就要从神经网络和反射的建立来讨论这个问题了。
 我们还是以最明显的视觉信息传输为例进行讨论吧。在视网膜上，有几十万视神经在工作。但是向大脑传输信息的神经要比视网膜上的视神经少得多得多。面对这种结构，只有两种可能：要么是神经网络继续用并行机制向大脑传输少量的视觉信息，大部分信息不被传输。要么是神经网络把视网膜上视神经的信息编写成串行信息，由数量较少的传输神经传递给大脑。如果是后者，在视神经解剖中就应该发现特殊的编码神经元，在大脑里就应该发现特殊结构的解码神经元。但是目前生物神经学没有提供相应的实验报告。目前的大量实验反而表明，神经元的结构大体相同。这就意味着，后一种方式是不存在的。
 因此，视神经信息传输最大的可能是。由数量元少于视神经的传输神经，传输很少的视觉信息到大脑。其余的视觉信息则不进行传输。
 我们再就此进一步思索，这种传输方式意味着什么？它就意味着，神经系统的信息传输只能以不断简化的方式进行。这种简化，显然并不符合移动数据的要求。移动数据要求数据原样不变，这种传输信息的方式显然会使数据在移动中改变。
 但是我们从大脑操作看，这种在传输中对信息的简化，正是大脑操作中抽象操作的特点。如果把抽象也看成是大脑的一种计算方式的话，那么，信息传输中的简化，正是抽象操作的结构基础。
 由此我们得到了答案，神经网络是用简化信息的方式，由外层（感觉层次）向大脑传递信息的。大脑得到的数据不是外层（感觉层次）获得的数据，而是被简化改变了的数据。
 然而，我们还需要解决的是，神经网络究竟传输得是什么信息？它对大脑中的数据形成有什么影响？

作者： 203.187.180.* 2007-3-5 17:52 
简化？说得轻巧，问题的关键就在这里！怎么简化？
----------------------------------------------------------------
 你最好睁开眼睛把我的帖子好好看看。这里的简化与我的“说”无关，它是因为视传输神经元的数量远远少于视神经的数量，由大脑神经网络产生的自然简化。是大脑神经结构的自然效果。
 看来你的大脑神经结构更成问题，看帖子的过程也会发生这种自然简化。

我们还要回忆一下后天性反射的建立过程。后天性反射是一些神经部位同时受到刺激产生兴奋后，它们之间建立起的联系。生物神经网络理论指出，这些联系是由神经元的神经突触建立的。
 完整的反射要经历两个主要过程，一个是反射的建立，即多次同时产生兴奋后神经元间联系的建立过程。另一个是反射的实现，即反射建立后，部分刺激出现引起有联系的神经元同时兴奋的过程。此外还有两个次要过程。一个是反射的巩固过程，即反射所需的刺激要多次出现，使反射得到巩固。另一个是反射的退化过程，一个已经建立反射的反射链，如果不进行巩固，其神经元间的联系就会消失。
 由上面的过程看，反射的建立条件比较简单，只需要刺激和兴奋。刺激是神经元外产生的，兴奋是神经元自身产生的。当一个神经元产生兴奋后，它的兴奋也可以看成是刺激，作用与其它神经元，从而引起其它神经元的兴奋。因此，神经网络间传递的信息，仅仅是神经元的兴奋信息。只有那些外部（或内部）的感觉器官才真正接受刺激。
 我们前面已经说过，大脑不能把神经元的兴奋编写成类似计算机的串行数据码，因此脑神经网络只能依靠反射（即神经元间的联系）来表示信息。我们在前四段举了一个眼睛看到斜直线的例子。脑神经网络不能像计算机图像处理那样，把斜直线变成图像文件，然后用串行文件数据把斜直线在大脑里传来传去。表示斜直线的信息编码就是那几个感受斜直线的光的视神经间的反射链，这是简单信息的编码方式。但是这种信息编码是不能够移动的。
 更复杂一些的信息由更复杂的反射链来编码。例如，“狗看到食物就分泌唾液”这条信息，是比一条斜直线更复杂的信息。它是由看到食物功能、分泌唾液功能与神经部位联系共同表示的，而这两种功能在大脑中不是信息，而是具体功能。因此由反射组成的大脑信息编码，是由大脑功能和神经部位间联系共同表示的。
 同眼睛看到的斜直线信息一样，狗看到食物就分泌唾液也是不能移动的数据。但是根据我们上一段所讨论的脑神经信息简化传递的原理，这些信息都可以用简化的方式向大脑传递。
 例如，接受“斜直线”光感的视神经们，可以在简化传递中与一个内部神经元建立反射（假设），那么当斜直线再次出现时，内部的那个神经元也会随之兴奋。这样，那个内部神经元的兴奋，就代替了那条斜直线。
 再例如，“看到食物”也是由一些视神经元间反射完成的工作，它也可以在简化的传输中与一个神经元建立联系（反射），从而这个神经元的兴奋便代替了“看到食物”。而“分泌唾液”也是由一些神经元共同完成的工作，它也可以在简化传输中与一个神经元建立联系（反射），从而使这个神经元代表了“分泌唾液”。然后，这两个分别代表“看到食物”和“分泌唾液”的神经元间再建立反射，它就是“看到食物就分泌唾液”这条信息。
 通过以上两个例子，人们可以对“反射表示信息”有一个感性的认识。
 这些信息也可以看成是脑神经网络中的数据，但是这样的数据同样是不能移动的。

作者： 203.187.180.* 2007-3-6 09:45
视神经从最初的视网膜开始到最终的额页，中间要经过10多层的处理，保留什么，忽略什么，是科学家研究的重点，估计你这一生都入不了门，也就在这里耍耍嘴皮子，过干瘾。 
----------------------------------------------------------------
 正因为这是科学家们共同研究的难点，我研究它才有价值。我是在阅读大量相关知识后谈出我的见解的。不像你，仅仅看了一两眼，就自以为很懂了！

在上段我们的讨论中，我们了解了，传输神经元们依靠建立反射的方式，就可以进行简化的信息传输。它不仅不需要移动数据，还会产生更为新奇的效果，即产生层层组合信息的效果。这就为脑神经网络容纳大量信息创造了条件。
 对这个问题的说明还要从我们在前三段提到的“１００个神经元的全组合”说起。这里，１００个仅仅是为了计算方面提出的数字，实际上视神经是几十万个。我们假设只有１００个视神经元。
 假设视网膜上只有１００个视神经元，那么它们每两个的联系就可以表示一个不同信息。由于这种用联系表示信息与方向的关系不大，因此它是组合，不是排列。在数学上要用组合来计算。而接下来，它们之间的任意三个的组合，也表示不同信息，而且与两个神经元的组合表示的信息不同。如此推下去，一直到１００个视神经元之间的联系。这从二到一百的各种组合的总数量（它们的和），就是这１００个视神经元的全组合数量，它也是这１００个视神经元能够表示信息的总数量。
 如果把这１００个视神经元换成实际的几十万个神经元，那它们可以表示的信息量就会大得不得了。
 然而我们上段讲到，在传递时，它们的每一个信息是靠于一个传输神经元建立反射传递的。因此，传输神经元间也可以进行组合，表示信息。这种组合又是它们各自代表的信息之间的组合，它们分别表示的是新的信息，但是与视神经信息又有关联。那种组合又是相当大的数量。但是，这只不过才是一层传输。
 到更下一层传输，又是一个神经元与上一层之间的一种信息状态建立反射，代表上一层次的一个信息表示。这些神经元间又可以组合表示更复杂的信息。于是传输神经元的任务就不仅仅是起传输作用，它们的组合还起着表示更多信息的作用。这样的各层次组合的现象一直可以向大脑深层推进。
 这些组合还不光是简单的组合关系。它们在信息上还有着很紧密地的联系。如果我们把视神经元表示的信息比喻成词汇（注意仅仅是比喻），它的下一层的组合就可以比喻成语句，再下一层则可以比喻成语段，再下一层次则可以比喻成短文章，更深一层次则可以比喻为长篇文章。
 以上的关系并不是依靠意识或思维形成的关系，而仅仅是靠建立反射形成的关系。由此，我们不难想象，大脑为什么能够有那么强大的功能，那就是因为反射赋予了它极其强大的功能。进而，我们也可以知道反射在脑神经网络的重要意义。
 在上面讨论过程中，还有一个问题：视神经的组合形式数量之巨大，是它的下一层传输神经所不能表示的了的。因此在传输过程中，只能有部分视神经状态（也就是它表示的信息）向内层传递，那些不能传递的视神经状态，就只能采用“合并代表”的方式传递。也就是相似内容的信息合并以一个内层神经元为代表。这种“合并代表”就使大脑联想功能成为必然。因为很多类似信息由一个内部神经元代表，自然反转操作会产生联想。