Hopfield 神经网络有哪几种训练方法
人工神经网络模型主要考虑网络连接的拓扑结构、神经元的特征、学习规则等。目前，已有近40种神经网络模型，其中有反传网络、感知器、自组织映射、Hopfield网络、波耳兹曼机、适应谐振理论等。
根据连接的拓扑结构，神经网络模型可以分为：（1）前向网络 网络中各个神经元接受前一级的输入，并输出到下一级，网络中没有反馈，可以用一个有向无环路图表示。
这种网络实现信号从输入空间到输出空间的变换，它的信息处理能力来自于简单非线性函数的多次复合。网络结构简单，易于实现。反传网络是一种典型的前向网络。
（2）反馈网络 网络内神经元间有反馈，可以用一个无向的完备图表示。这种神经网络的信息处理是状态的变换，可以用动力学系统理论处理。系统的稳定性与联想记忆功能有密切关系。
Hopfield网络、波耳兹曼机均属于这种类型。学习是神经网络研究的一个重要内容，它的适应性是通过学习实现的。根据环境的变化，对权值进行调整，改善系统的行为。
由Hebb提出的Hebb学习规则为神经网络的学习算法奠定了基础。Hebb规则认为学习过程最终发生在神经元之间的突触部位，突触的联系强度随着突触前后神经元的活动而变化。
在此基础上，人们提出了各种学习规则和算法，以适应不同网络模型的需要。
有效的学习算法，使得神经网络能够通过连接权值的调整，构造客观世界的内在表示，形成具有特色的信息处理方法，信息存储和处理体现在网络的连接中。
根据学习环境不同，神经网络的学习方式可分为监督学习和非监督学习。
在监督学习中，将训练样本的数据加到网络输入端，同时将相应的期望输出与网络输出相比较，得到误差信号，以此控制权值连接强度的调整，经多次训练后收敛到一个确定的权值。
当样本情况发生变化时，经学习可以修改权值以适应新的环境。使用监督学习的神经网络模型有反传网络、感知器等。非监督学习时，事先不给定标准样本，直接将网络置于环境之中，学习阶段与工作阶段成为一体。
此时，学习规律的变化服从连接权值的演变方程。非监督学习最简单的例子是Hebb学习规则。竞争学习规则是一个更复杂的非监督学习的例子，它是根据已建立的聚类进行权值调整。
自组织映射、适应谐振理论网络等都是与竞争学习有关的典型模型。
研究神经网络的非线性动力学性质，主要采用动力学系统理论、非线性规划理论和统计理论，来分析神经网络的演化过程和吸引子的性质，探索神经网络的协同行为和集体计算功能，了解神经信息处理机制。
为了探讨神经网络在整体性和模糊性方面处理信息的可能，混沌理论的概念和方法将会发挥作用。混沌是一个相当难以精确定义的数学概念。
一般而言，“混沌”是指由确定性方程描述的动力学系统中表现出的非确定性行为，或称之为确定的随机性。
“确定性”是因为它由内在的原因而不是外来的噪声或干扰所产生，而“随机性”是指其不规则的、不能预测的行为，只可能用统计的方法描述。
混沌动力学系统的主要特征是其状态对初始条件的灵敏依赖性，混沌反映其内在的随机性。
混沌理论是指描述具有混沌行为的非线性动力学系统的基本理论、概念、方法，它把动力学系统的复杂行为理解为其自身与其在同外界进行物质、能量和信息交换过程中内在的有结构的行为，而不是外来的和偶然的行为，混沌状态是一种定态。
混沌动力学系统的定态包括：静止、平稳量、周期性、准同期性和混沌解。混沌轨线是整体上稳定与局部不稳定相结合的结果，称之为奇异吸引子。
谷歌人工智能写作项目：神经网络伪原创
想要学习人工神经网络，需要什么样的基础知识？
人工神经网络理论百度网盘下载：链接： 提取码：rxlc简介：本书是人工神经网络理论的入门书籍好文案。全书共分十章。
第一章主要阐述人工神经网络理论的产生及发展历史、理论特点和研究方向；第二章至第九章介绍人工神经网络理论中比较成熟且常用的几种主要网络结构、算法和应用途径；第十章用较多篇幅介绍了人工神经网络理论在各个领域的应用实例。
什么是神经网络控制
神经网络控制技术是一项复杂的系统控制技术，一般应用在变频器的控制中，它是通过对系统的辨识、运算后对变频器进行控制的一种新技术。
而且神经网络控制可以同时控制多个变频器，所以应用在多个变频器级联控制中比较合适。
什么是神经网络控制技术
神经网络控制技术是一项复杂的系统控制技术，一般应用在变频器的控制中，它是通过对系统的辨识、运算后对变频器进行控制的一种新技术。
而且神经网络控制可以同时控制多个变频器，所以应用在多个变频器级联控制中比较合适。
如何进行神经网络控制系统的稳定性判别与分析
输入级每一个节点输入一个特征的值(或向量，向量时要复杂一点)。输出级输出的是分类的结果，即属于哪一类。以二分类问题为例输出端只有一个节点输出0或1。中间的结构在进行测试时不用关心。
不过这仅限于BP等比较简单的神经网络。
如何连结神经元?
一种用于实时过程的神经网络在线自学习逆控制算法发布时间：2004.11.10 阅览次数：2280 作者：彭一江 单位：长沙天海分析检测自动化有限公司摘 要： 本文探讨了神经网络控制应用于实时过程的实现问题，提出一种网络训练与控制分离并行的算法。
该算法在对过程的逆模型进行实时在线自学习的同时，对过程实施逆控制，实现对复杂对象的自学习、自适应控制功能。文中还给出了一个计算机仿真实例的结果。关键词：实时过程；神经网络；在线自学习；逆控制。
ONE NEURAL NETWORK INVERSE CONTROL ALGORITHMWITH ON-LINE SELF-LEARNING FOR REAL-TIME PROCESSES Abstract : In this paper , the study on the realization of application of neural network control to the real-time process is made and the algorithm with separated and parallel method for neural network training and control is advanced . Useing this algorithm,the on-line learning to the inverse model of real-time process can be performed, and concurrently , the inverse control can be performed in the process. It can realize functions of self-learning and adaptive control to complex result of one example of the computer simulation of the system is presented .Key words: real-time process ; neural network ; on-line self-learning ; inverse control.1 引言近年来，人工神经网络 (简称神经网络或NN) 越来越多地应用于工业自动化控制领域。
由于神经网络能够充分逼近任意复杂的非线性关系和能够学习与适应严重不确定性系统的动态特性，因此，采用基于NN人工智能控制方法，引入自学习、自适应功能而构成的实时系统，在处理那些实时性要求高且难于用模型或规则描述、随机性事件多、非线性严重、存在多个不同类型输入和输出的实时过程方面，显示了极大的优越性。
众所周知，由于神经网络的学习需要耗费较长的时间，其实时应用策略仍是控制领域研究的热点。通常，神经网络在过程控制中用作控制器模仿器或过程模仿器,构成基于神经网络的控制系统。
目前，这种控制系统常采用软件方法实现。然而，神经网络的学习过程是一个慢过程，而作为一个实时系统，其主要目标是保证系统响应的及时性，必须同时满足逻辑正确性和时间约束两个条件。
因此，对于快速有时甚至是慢速的实时过程，特别是对于有强实时任务（即要求该任务在时限内完成，否则其结果将失去可用性的任务）的过程，神经网络的学习慢速性是NN实时控制算法实现的难点。
一般采用NN离线学习与在线控制相结合的方法。在线学习与控制的方法大多局限于在一个控制周期内串行完成的算法。
本文在NN软件实现上结合中断处理技术，使网络的学习与控制分离和并行嵌套，提出一种用于实时过程的神经网络在线自学习逆控制算法，用以处理难于建立对象模型 (包括快速和强实时) 的过程。
2 基于NN的实时过程控制原理实时过程控制系统是指该系统实时地从外界获得被控系统的当前状态，进行预定的处理，并根据处理结果对外界被控系统进行及时控制，使其处于要求的状态下。
实时过程控制系统的模型是一个反馈环结构。如图 1 所示。2.1 系统NN基本结构采用具有非线性特性函数的神经元及多层非循环连接模式的神经网络（NN）和反向传播（B-P）学习算法。
根据一般实时过程的特点，设神经网络输入层共取n个神经元，分别代表输入端x1，x2，···xi···xn。
完成将外部各工艺参数输入神经网络的功能；中间层取1∽2 层共设2n+m个神经元，代表神经网络的感知层；输出层取m 个神经元，代表过程的输出参数y1，y2，···yj，···ym。
从外部特性看，网络相当于一个n输入m输出的多变量传递函数。而其内部特性却充分反应了对象的动力学特性。系统NN基本结构如图 2 所示。其中：(a)网络连接模型， (b)神经元模型。
在图2所示的神经网络中，某一个神经元的结构如图2(b)所示。其中Xi为输入信息，Wi为权值，θi 为阈值，F是表示神经元活动的特性函数，F刻划了神经元输入信号与输出信息之间对应的关系 。
2.2 网络权值学习算法神经元特性函数取S型函数，即：F(X)= 1/(1+e-x) （2－1）网络采用的B-P算法是前向计算输出与反向传播误差相结合的进行权值调整的过程。
设网络中第i层某个神经元与后一层第j层的连接权值为W[ij]，输入为X[j] ，输出为X[i]&＃39;。
由图3可得：Xi &＃39;＝F(Xi )＝1／（1＋e-Xi+θi） （2－2）Xi ＝∑Wij ·Xj （2－3）误差反传采用改进的Delta权值调整公式[4] ：Wij(n+1)＝Wij(n)+ΔWij(n+1) （2－4）ΔWij(n+1)＝η·δj·X&＃39;i+α(ΔWij(n)) （2－5）式中：η为学习率（取η＝0.1~0.9）；α为动量系数（取α＝0.1~0.8）；δj为神经元输出误差。
采用基于系统误差梯度的方法调整权值 [4] ，即：当 j 为输出层时：δj＝－( Xi &＃39;－Xj)·X&＃39;j·(1－X&＃39;j) （2－6）当j为中间层时：δj＝(∑δk·Wjk)·X&＃39;j·(1－X&＃39;j) （2－7）2.3 NN在线学习控制结构系统以过程输出量Y为控制对象，以Y=Ysr（给定常数）为控制目标，以 U过程控制量，以事先离线进行过权值初始化训练、并且在生产过程中不断进行在线学习的神经网络系统辩识模型NN为控制模型，并由此辩识模型计算某一时刻所需控制量U值。
构成基于神经网络的实时控制系统，实现对Yr的自动跟踪。系统控制原理框图如图3所示。图3中，P为实时过程的实际模型；BP为输出误差向网络内部连接权值反传调整权值的算法。S为网络权值传送软件开关。
2.4 过程模型在线自学习系统首先采用离线训练的方式形成网络的连接权值矩阵初始值，包括建立各种不同神经网络模型结构参数，以提高在线学习速度。
系统投入实时控制后，程序在一定条件下启动NN自学习功能，将实时采集的工艺参数通过特定处理后，作为训练样本输入网络，进行连接权值的调整。
由于NN模型不需要知道对象的任何先验知识，在限定NN拓扑下，其连接权值不仅规定了模型的参数，同时也规定了模型的结构性质，因此，用这种方式训练出来的的神经网络模型，可以充当对象的模仿器[1]。
系统不断地根据生产过程中的各种相关参数，反复调整网络权值，在线建立过程逆模型。
2.5 模型逆控制过程模型模仿网络NN2投入实时控制前经过离线训练，使系统在投入控制后的初始阶段有较好的稳定性并使NN2能较快地完成以后的在线学习。
在NN2不断学习和NN1调节控制量的过程中，NN2输入输出特性能够越来越准确地模拟实际过程模型的输入输出特性。经若干个模型学习周期，NN2 学习误差达到期望值，NN2 的连接权值暂时固定下来。
当过程输出与系统设定的偏差大于期望值时，NN2的连接权值传送给调节器模仿器NN1，作为调节器计算新的控制量，同时，启动在线学习开关 S，NN2开始进行新的学习。
当系统产生控制中断而进入控制周期，系统先对过程状态参数进行一次实时检测，根据当前的过程状态由NN1对控制量进行调节，完成一次在特定工艺状态参数下的控制量的动态设定。
当NN充分接近实际模型，即：NN2=P-1时，由于NN1=NN2，NN1·P=P-1·P＝1，则Y=Ysr，即系统可实现对给定目标值的跟踪。
3 软件实现对实时控制系统而言，软件设计应着重考虑NN学习算法、样本形成、网络推理之间的时序问题。系统采用内部中断与外部中断相结合的方式处理时序问题。
软件设计两个中断处理子程序，其中一个为定时与采样中断处理子程序，采用修改机器内部定时中断向量的方法，另一个为实时控制及样本提取中断处理子程序。采用外部脉冲信号产生中断申请的响应方法。
网络学习则在主程序的大循环中进行。系统投运前，NN通过离线训练获初始知识。离线训线的样本可以利用工艺过程中的历史数据产生，或由该领域专家的知识形成。实时控制中NN以在线学习方式运行。
学习是一个的大循环，不断以样本子集缓冲区的实时样本对网络进行训练。
而样本缓冲区的实时样本的刷新是由外部中断服务子程序根据样本提取逻辑进行的，系统实时地将实际过程中产生的新样本替换样本缓冲区中最先前的样本。
同时，一旦时间达到某一设定的周期，系统将样本缓冲区的样本存入硬盘作为历史样本供以后使用。内部中断服务子程序采集的现场数据供显示用，并且提供样本提取逻辑所需的计时信息。
采用这种大循环进行NN学习；内部时钟定时中断进行数据采集与处理并提供样本获取和控制时序逻辑；外部中断请求进行样本提取和实时控制的程序结构，充分利用了CPU的大量空闲时间，即照顾了学习的耗时性，又满足了数据采集的及时性和控制的适时性。
实时控制流程及中断服务子程序见图4。其中：(a) 实时控制主模块； (b) 实时数据采集及定时中断处理子程序；(c)控制输出及样本提取中断处理子程序。
4 计算机仿真实例结果计算机仿真实验程序用C++编制，在486微机上运行。
系统仿真所用数学模型为螺纹钢筋轧后控冷工艺过程的一个多输入单输出 (根据生产实际数据产生的回归分析模型)[5,6]：Ts= -4.1·Qy -156.8·t -4.6·Tw +29.3·Φ+0.21·Tf +50·C +850 ( 4-1)其中过程输出为Y = Ts ，目标值Yr = 620 。
设NN输入 X= { t , Tw , Φ , Tf , C , Ts } ；NN输出U = Qy 。
网络为6×12×12×1结构，运行前离线训练重复次数为7000次，学习时间为8分钟，网络输出总误差为0.00005。经过训练的NN用于仿真运行，模拟在线自学习控制，学习 时间小于0.5秒。
仿真运行结果见表1。表中数据经归一化处理，以保证网络输出值在(0，1) 区间内；其中Qy、Ts为初始值，Qy&＃39;、Ts&＃39;为执行的结果值。
由表1可知，系统能够在钢筋终轧温度Tf变化时，自动改变水量设定值Qy，使其自回火温度稳定在目标值Tsr=602℃ (误差小于1℃)左右。
仿真结果表明，这种基于NN模型自学习的逆控制方法，有较强的自学习、自适应能力。在处理一般非线性、随机性、时变及多变量输入输出的实时过程方面，有较好的开发应用前景。
参 考 文 献[1] 周节其，徐建闽. 神经网络控制系统的研究与展望. 控制理论与应用，1992，9(6):569∽575[2]焦李成. 神经网络的应用与实现. 西安:西安电子科技大学大学出版社.1995,261~264[3] 袁曾任，郭新钢. 基于B-P算法的神经网络作为离散时间非线性对象的逆控制, 电气自动化，1994,(4):39~41[4]包约翰著. 自适应模式识别与神经网络. 马颂德等译. 北京:科学出版社.1992,109~125[5] 张泰山,彭一江. 基于神经网络的钢筋轧后冷却自学习控制系统 .中国有色金属学报，1995 ,Vol.5, Suppl.4, 380~384[6] 彭一江. 基于神经网络的钢筋轧后冷却智能控制系统 .中南工业大学硕士学位论文. 长沙. 1996。
怎么系统学习智能控制，智能控制的有什么作用。
有一门专门的学科叫做智能控制，主要包括模糊数学，模糊控制，人工神经网络和专家系统。
由于这四个主要部分是交叉学科，也有的时候专门成一门学科，例如模糊数学在应用数学和计算机里面会单独成立一门学科，有的地方在控制科学与工程也会单独成立一门学科。
人工神经网络在控制理论与控制工程，模式识别与智能系统，计算机科学技术等领域有时候也会单独成立一门学科。专家系统在系统工程和控制理论与控制工程也有时候会单独成立一门学科。
智能控制虽然听起来名头很响，但是实际上它并非异常高深的理论，相反它是从很多学科的成果当中提炼成的一门学科。主要解决的问题是非线性问题，数学系统模型性能很差或者难以建立数学模型的问题。
例如传统PID控制参数难以整定或者超调量很大的问题，可以使用模糊PID控制解决，线性分类器无法分类的问题可以用人工神经网络（在模式识别里又叫做感知器网络）来解决。
但是智能控制有一个难以克服的缺点，往往不如数学模型准确，并且在人工神经网络和专家系统中都需要大量的训练样本和训练时间，说白了就是需要比较长的计算机离线运算时间并且需要一定量的前期实验。
京公网安备 11010802041100号