您的位置：关键词：神经网络
解释略．由于Hodgkin和Huxley研究的成果有重大理论及应用价值，他们荣获了诺贝尔生理医学奖．他们的著名方程引起了许多学者的关注，方程中包含了丰富的内容，对理论和实践产生了极大的作用，有些学者对H-H方程研究得到了很多有意义的结果．如，发现了神经膜中所发生的非线性现象：自激振荡、混沌及多重稳定性等，几乎都可用这个方程来 描述．
1954年生理学家Eccles提出了真实突触的分流模型［8］，并通过突触的电生理实验得到证实．其重要意义是，为神经网络模拟突触的功能提供了原型和生理学的证据．1956年Uttley发明了一种由处理单元组成的推理机，他称这种处理单元为信息子(informo n)，用推理机模拟行为及条件反射现象．它是一种线性分离器，利用Shannon的熵值与输 入输出概率之比的自然对数来调节其输入参数．他在70年代中期把它应用于自适应模式识别 ，他认为这种模型是实际神经系统的工作原理，并出版了专著Information Transmission in the Nervous System．
(2)第一次高潮阶段． 1958年计算机科学家Rosenblatt［9］基于MP模型，增加了学习机制，推广了MP模型．他证明了两层感知器能够将输入分为两类，假如这两种类型是线性并可分，也就是一个超平面能将输入空间分割，其感知器收敛定理：输入和输出层之间的权重的调节正比于计算输出值与期望输出之差．他提出的感知器模型，首次把神经网络理论付诸工程实现．例如，1957年到1958年间在他的帅领下完成了第一台真正的神经计算机，即：Mark Ⅰ的感知器．他还指出了带隐层处理元件的3层感知 器这一重要的研究方向，并尝试将两层感知器推广到3层．但他未能找到比较严格的数学方法来训练隐层处理单元．这种感知器是一种学习和自组织的心理学模型，其结构体现了神经生理学的知识．当模型的学习环境有噪音时，内部结构有相应的随机联系，这种感知器的学习规则是突触强化律，它可能应用在模式识别和联想记忆等方面．可以说，他的模型包含了一些现代神经计算机的基本原理，而且是神经网络方法和技术上的重大突破，他是现代神经网络的主要建构者之一．Rosenblatt之举激发了许多学者对神经网络研究的极大兴趣． 美国上百家有影响的实验室纷纷投入这个领域，军方给予巨额资金资助，如，对声纳波识别 ，迅速确定敌方的潜水艇位置，经过一段时间的研究终于获得了一定的成果．这些事实说明 ，神经网络形成了首次高潮．
1960年Widrow和Hoff提出了自适应线性元件ADACINE网络模型［10］，是一 种连续取值的线性网络，主要用于自适应系统．他们研究了一定条件下输入为线性可分问题 ，期望响应与计算响应的误差可能搜索到全局最小值，网络经过训练抵消通信中的回波和噪 声，它还可应用在天气预报方面．这是第一个对实际问题起作用的神经网络．他们还对3层 网络进行过尝试，但仍给不出数学解．可以说，他们对分段线性网络的训练有一定作用，是 自适应控制的理论基础．Widrow等人在70年代，以此为基础扩充了ADALINE的学习能力 ，80年代他们得到了一种多层学习算法．
在神经网络中，出现一种持续不衰减的周期性兴奋波，称为回响(reverberation)现象 ．人们关心的问题是产生回响的条件，网络的参数对回响的周期、幅度等性质的影响，以及 如何通过外部来控制回响波．从而利用神经网络的节律性，并解释脑电波中的α节律．1961 年意大利科学家Caianiello基于神经元模型，引入了不应期特性，提出一个神经方程
式中1［.］是单位阶跃函数，Si是第i个神经元所受到的外界刺激，θi是第i个神经元的阈值，t-r是过去的某一时刻，H是影响网络所持续的最长时间，Wij(r)是影响权重，它有兴奋性和抑制性两种输入．该方程同时考虑神经元的空间和时间性质，而且取离散值，用网络内部结构不变的方式来描述神经网络中的回响现象．它的局限性在于，不能反映学习和记忆过程．由于该方程中出现一个非线性函数，所以用它研究回响现象时，就会 遇到一个在非线性系统中求周期解的问题，而这是一个相当复杂的问题．随后，Caianiello根据Hebb假说，发展了他自己的模型，描述了学习和记忆过程中重复强化因素，以及遗忘过程为饱和性质，给出了一种记忆方程