您的位置：关键词：神经网络
90年代以来，人们较多地关注非线性系统的控制问题，通过神经网络方法来解决这类问题 ，已取得了突出的成果，它是一个重要的研究领域．1990年Narendra和Parthasarathy提出 了一种推广的动态神经网络系统及其连接权的学习算 法［60］，它可表示非线性特性，增强了鲁棒性．他们给出了一种新的辨识与控制方 案，以multilayer网络与recarrent网络统一的模型描述非线性动态系统，并提出了动态BP 参数在线调节方法．他们研究的是，假定对象为线性或非线性离散时间系统．有些学者对它 的学习算法计算量大和收敛速度慢进行了一定改进．值得重视的是，连续时间非线性动态系 统，如，仿射非线性系统可直接应用于广泛而真实的物理系统．值得一提的是，戴先中等人 ［61］提出了连续非线性系统的神经网络α阶逆系统控制方法，他们一方 面用静态神经网络逼近静态非线性函数；另一方面用积分器或微分器来体现系统的动态特性 ，并结合线性系统理论和方法，从而构成一种满足系统要求的复合控制器．可以说，这种控 制策略具有一定代表性和启发性．
Miller［62］等人基于Albus在1975年提出的小脑模型关节控制 器(CMAC)，研究了非线性动态系统控制问题，它具有局部逼近和修改权极小的 特点，可用于实时控制方面，但存在一个缺陷，即采用了间断超平面对非线性超曲的逼近， 有时出现精度不够，也有可能得不到相应的导数估计．这种方法一开始就被Miller［ 63］成功地应用于商用机器人的实时动态轨迹的跟踪控制中．Touretzky也成功应用于非 线性时间序列分析上．1992年Lane［64］对它作了改进，他采用高阶B-样条，使逼 近超平面的光滑性更好，虽然计算量有所增加，但在容忍范围之内，逼近精度有一定提高． 1993年Bulsari［65］提出以乘积Sigmoidal函数作为激发函数，给出了非线性系统用 神经网络逼近的构造性描述，得到了节点数目的一个上界估计．最近，朱文革［66］ 引入小波变换，并对其性质进行了分析．在Lp范数下，他也构造性证明了单个隐层前馈神 经网络逼近定理．1997年罗忠等人［67］对CMAC的收敛性以及hash编码对它的影响作 了矩阵分析和证明．另外，有些学者通过神经网络的训练来实现非线性系统的 状态反馈控制，其学习算法为非线性系统的学习控制提供了有效的方法．但它需要全状态反 馈信息，给实际应用带来了一定的困难，同时它的学习收敛速度还有待提高．
Davis在1991年编辑出版的Handbook of Genetic Algorithms，这本工具书对该领域的设 计和应用人员有很大的帮助．尤其是进化计算的概念在1992年形成，促进了这一理论的发展 ．1993年诞生了国际性杂志Evolutionary Computation．随后，IEEE神经网络委员会定期召 开进化计算国际会议．近几年它成为一个热点研究领域．1993年Yip和Pao提出了一种带区域 指引的进化模拟退火算法，他们将进化策略引入区域指引，它经过选优过程，最终达到求解 问题的目的．近几年有些学者对它进行了改进，如，蔚承建等人［68］在随机搜索过 程中引入区域指引，并采用Cauchy变异替换Gaussian变异产生后代，使算法的可收敛性及其 速度有所提高．他们将这种方法成功的应用于转动圆桌平衡摆盘问题的求解．值得一提的是 ，1997年张讲社等人［69］将Markov链表示遗传算法，并引进模拟退火的方法．还有 类似的混合法及其改进，如提高收敛速度，避免过早收敛，同时避免陷进局部极值的情况．
必须指出，神经网络的计算复杂性分析具有重要意义．有些学者产生了极大兴趣，如19 91年Hertz［70］探讨了神经计算理论；1992年Anthony［71］出版了一本论著 Computational Learing Theory； 1995年阎平凡［72］讨论了神经网络的容量、推 广能力、学习性及其计算复杂性．可以说，这方面的理论成果越多，对应用的作用就越大．
从上述各个阶段发展轨迹来看，神经网络理论有更强的数学性质和生物学特征，尤其是神经 科学、心理学和认识科学等方面提出一些重大问题，是向神经网络理论研究的新挑战，因而 也是它发展的最大机会．90年代神经网络理论日益变得更加外向，注视着自身与科学技术之 间的相互作用，不断产生具有重要意义的概念和方法，并形成良好的工具．
3 发展趋向及前沿问题
展望21世纪初，在近十年神经网络理论研究趋向的背景下，笔者认为神经网络理论的主要前 沿领域包括：
(1) 对智能和机器关系问题的认识将进一步增长．
研究人类智力一直是科学发展中最有意义，也是空前困难的挑战性问题．人脑是我们所知道 的唯一智能系统，它具有感知识别、学习、联想、记忆、推理等智能，80年代中期出现了“ 联结主义”的革命，或“并行分布处理(PDP)”，它又被普遍地称为神经网络，具有自学习 、自适应和自组织的特点，也是神经网络迫切需要增强的主要功能．进一步研究调节多层感 知器的算法，使建立的模型和学习算法成为适应性神经网络的有力工具，构建多层感知器与 自组织特征图级联想的复合网络，是增强网络解决实际问题能力的一个有效途径．重视联结 的可编程性问题和通用性问题的研究，从而促进智能科学的发展．我们通过不断探索人类智 能的本质以及联结机制，并用人工系统复现或部分复现，制造各种智能机器，这样，可使人 类有更多的时间和机会从事更为复杂、更富创造性的工作．
智能的产生和变化经过了漫长的进化过程，我们对智能处理的新方法的灵感主要来自神经科 学，例如学习、记忆实质上是突触的功能，而海兔的小系统神经元是研究学习记忆突触机 制的天然模型，在细胞和分子水平上研究，为我们提供真正的实证．又如，人类大脑的前额 叶高度发育，它几乎占了30%大脑的表面积 ，在其附近形成了人类才出现的语言运动区，它与智能发育可能密切相关，使神经系统的发 育同环境的关系更加密切，脑的可塑性很大，能主动适应环境还能主动改造环境，人类向制 造智能工具方向迈进正是这种主动性的反映．事实上，脑的可塑期越长，经验对脑的影响就 越大，而人类的认知过程很大程度上不仅受经验主义的影响，而且还接受理性主义的模型和 解释．因此，对于智能和机器的关系，应该从进化的角度，把智能活动看成动态发展的过程，并合理的发挥经验的作用．同时还应该从环境与社会约束以及历史文化约束的角度加深对 它的理解与分析．
神经网络是由大量处理单元组成的非线性、自适应、自组织系统，它是现代神经科学研究成 果的基础上提出的，试图模拟神经网络加工、记忆信息的方式，设计一种新的机器，使之具 有人脑风格的信息处理能力．智能理论所面对的课题来自“环境—问题—目的”，有极大的 诱惑力与压力，它的发展方向就将是，把基于联结主义的神经网络理论、基于符号主义的人 工智能专家系统理论和基于进化论的人工生命这三大研究领域，在共同追求的总目标下，自 发而有机的结合起来．在这里我们只想重复一下我们的信念并推测：在21世纪初，智能的机 器实现问题的研究将有新的进展和突破．