西电人工智能19计算智能Part136

Click to edit Master text styles,Second level,Third level,Fourth level,Fifth level,Click to edit Master title style,西安电子科技大学,Artificial Intelligence(AI),人工智能,主讲：戚玉涛,Email,：,qi_,第五章：计算智能,内容提要,第五章：计算,智,智能,1.,概述,2.,神经网络,3.,模糊计算,4.,遗传算法,内容提要,第五章：计算,智,智能,1.,概述,2.,神经网络,3.,模糊计算,4.,遗传算法,概述,计算智能,（,Computational Intelligence,，,CI,）,按照,Bezdek,（贝兹德克）,的,的观点：如果一个系统,仅,仅处理低层的数值数据，含有模式识别部件，没有使用人工,智,智能意义上的,知,知识，且具有计算适应性、计算容错力、接近人的计算,速,速度和近似于人的误,差,差率这,4,个特性，则它,是,是计算智能的,。,。,从学科范畴看,：,：计算智能是在,神,神经网络（,NeuralNet-works,NN,）、进化计算,（,（,EvolutionaryComputation,EC,）及模糊系统,（,（,FuzzySystem,FS,）这,3,个领域发展相,对,对成熟的基础,上,上形成的一个,统,统一的学科概,念,念。,概述,神经网络：,是一种对人类,智,智能的结构模拟方法，它是通过对,大,大量人工神经,元,元的广泛并行,互,互联，构造人,工,工神经网络系,统,统去模拟生物,神,神经系统的智,能,能机理的。,进化计算：,是一种对人类,智,智能的演化模拟方法，它是通过对,生,生物遗传和演,化,化过程的认识,，,，用进化算法,去,去模拟人类智,能,能的进化规律,的,的。,模糊计算：,是一种对人类,智,智能的逻辑模拟方法，它是通过对,人,人类处理模糊,现,现象的认知能,力,力的认识，用,模,模糊逻辑去模,拟,拟人类的智能,行,行为的。,概述,计算智能不仅,涉,涉及神经网络、模糊系统和进化计算三个主要分支,，,，还包括：,粒子群算法,蚁群算法,人工免疫系统,人工生命,模拟退火算法,粗集理论与粒,度,度计算,支持向量机,量子计算,DNA,计算,智能,agent,概述,智能的三个层,次,次,生物智能,(BiologicalIntelligence,BI),：由脑的物理化,学,学过程反映出,来,来的,脑智能的基础,。,。,人工智能,(ArtificialIntelligence,AI),：是非生物的,人造的,常用符号来表,示,示，,AI,的来源是人类,知,知识的精华。,计算智能,(Computational Intelligence,CI),：是由数学方法,和,和计算机实现,的,的，,CI,的来源数值计,算,算的传感器。,ABC,：,Artificial,Biological,Computational,概述,ABC,的交互关系：,Bezdek,（贝兹德克）,，,，,1994,输入,人类知识,(,),传感输入,知识,(,),传感数据,计算,(,),传感器,C,数值的,A,符号的,B,生物的,输入,复杂性,复杂性,BNN,BPR,BI,ANN,APR,AI,CNN,CPR,CI,NN,：神经网络；,PR,：模式识别；,I,：智能,概述,另一种观点：,计算智能和人,工,工智能是不同,的,的范畴。其代表人物是,艾,艾伯哈特（,R.C.Eberhart,）。,该观点认为：,虽,虽然人工智能,与,与计算智能之,间,间有重合，但,计,计算智能是一,个,个全新的学科,领,领域，无论是,生,生物智能还是,机,机器智能，计,算,算智能都是其,最,最核心的部分,，,，而人工智能,则,则是外层。,大量实践证明,，,，只有把,AI,和,CI,很好地结合起,来,来，才能更好,地,地模拟人类智,能,能，才是智能,科,科学技术发展,的,的正确方向。,内容提要,第五章：计算,智,智能,1.,概述,2.,神经网络,3.,模糊计算,4.,遗传算法,神经网络,人工智能的各,种,种学说,符号（功能）,主,主义：符号逻辑推理,联结（结构）,主,主义：人工神经网络,行为主义：智能行为模拟,，,，“模式,-,动作”,联结主义的观,点,点：智能的寓,所,所在大脑皮层,，,，它由大量非,线,线性神经元互联而成并行,处,处理的神经网络。,神经网络,人工神经网络,（,（,ANN,）是反映人脑结,构,构及功能的一,种,种抽象数学模型，是由大量神,经,经元节点互连,而,而成的复杂网,络,络，用以模拟,人,人类进行知识,的,的表示与存储,以,以及利用知识,进,进行推理的行,为,为。,简单地讲，它,是,是一个数学模型，可以用电子线路来实现，也可,以,以用计算机程序来,模,模拟，是人工智能,研,研究的一种方,法,法。,人工神经网络,力,力求从四个方,面,面模拟人脑的,智,智能行为：物理结构，计,算,算模拟，存储,与,与操作，训练,人工神经网络,的,的发展,人工神经网络,的,的发展,段萌芽期：,M-P,模型,Hebb,学习律,1890,年，美国生物,学,学家,W.James,首次阐明了有,关,关人脑结构及,其,其功能，以及,相,相关学习、联,想,想、记忆的基,本,本规律,1943,年，心理学家,McCulloch,和数学家,Pitts,建立起了,M-P,神经元,模型。,1949,年，心理学家,D.O.Hebb,提出神经元之,间,间突触联系是,可,可变的假说,Hebb,学习律。,第一高潮期：,单级感知器,以,Minsky,Rosenblatt,Widrow,等为代表人物,人工神经网络,的,的发展,人工神经网络,的,的发展,1957,年,FrankRosenblatt,定义,了,了一,个,个神,经,经网,络,络结,构,构，,称,称为,感,感知,器,器,(Perceptron),。,把神,经,经网,络,络研,究,究从,纯,纯理,论,论的,探,探讨,推,推向,工,工程,实,实现,，,，在,IBM,计算,机,机上,进,进行,了,了模,拟,拟，,并,并可,以,以用,电,电子,线,线路,模,模拟,。,。,反思,期,期,：,：,Minsky,的质,疑,疑,1969,年,Minsky,和,Papert,在,感知,机,机,一书,中,中指,出,出感,知,知机,的,的缺,陷,陷，,使,使得,神,神经,网,网络,的,的研,究,究从,兴,兴起,期,期进,入,入了,停,停滞,期,期。,芬兰,学,学者,Kohonen,提出,了,了自组,织,织映,射,射理,论,论,(SOM),，美,国,国学,者,者,Grossberg,提出,了,了自适,应,应谐,振,振理,论,论，这,些,些研,究,究成,果,果对,神,神经,网,网络,以,以后,的,的发,展,展产,生,生了,重,重要,影,影响,。,。,人工,神,神经,网,网络,的,的发,展,展,人工,神,神经,网,网络,的,的发,展,展,第二,高,高潮,期,期,：,：,Hopfield,网络,反向,传,传播,(BP),算法,1982,年，,Hopfield,提出,Hopfield,模型。,1984,年，,Hopfield,设计,研,研制,了,了,Hopfield,网的,电,电路。较,好,好地,解,解决,了,了著,名,名的,TSP,问题,，,，引,起,起了,较,较大,的,的轰,动,动。,1985,年，,Hinton,、,Sejnowsky,、,Rumelhart,等人,在,在,Hopfield,网络,中,中引,入,入随,机,机机,制,制，,提,提出,Boltzmann,机。,1986,年，,Rumelhart,Hinton,提出多层,感,感知,机,机与反向,传,传播,(BP),学习,算,算法，该,方,方法,克,克服,了,了感,知,知器,非,非线,性,性不,可,可分,类,类问,题,题，,给,给神,经,经网,络,络研,究,究带,来,来了,新,新的,希,希望,。,。,国内,首,首届,神,神经,网,网络,大,大会,1990,年,12,月在,北,北京,举,举行,。,。,人工,神,神经,网,网络,的,的发,展,展,人工,神,神经,网,网络,的,的发,展,展,成熟,期,期：,平稳,发,发展,，,，应,用,用广,泛,泛,与其,他,他领,域,域的,结,结合,：,：,与进,化,化计,算,算结,合,合,与模,糊,糊逻,辑,辑结,合,合,实际,应,应用,：,：,计算,机,机视,觉,觉,自然,语,语言,理,理解,优化,计,计算,智能,控,控制,人工,神,神经,网,网络,的,的发,展,展,人工,神,神经,网,网络,的,的特,性,性,并行,分,分布,处,处理,：,：并行,结,结构,，,，耐,故,故障,；,；,非线,性,性映,射,射：任意,非,非线,性,性映,射,射能,力,力；,通过,训,训练,进,进行,学,学习,：,：通过,数,数据,记,记录,进,进行,训,训练,，,，能,处,处理,由,由数,学,学模,型,型或,描,描述,规,规则,难,难以,处,处理,的,的问,题,题；,适应,与,与集,成,成：自适,应,应和,信,信息,融,融合,能,能力,；,；,硬件,实,实现,：,：快速,和,和大,规,规模,处,处理,能,能力,。,。,神经,网,网络,的,的生,物,物学,机,机理,神经,元,元结,构,构包,括,括四,个,个部,分,分：,胞体,：,：神经,细,细胞,的,的本,体,体，,维,维持,细,细胞,生,生存,功,功能,树突,：,：接收,来,来自,其,其他,神,神经,元,元的,信,信号,（,（输,入,入）,轴突,：,：输出,信,信号,突触,：,：与另,一,一个,神,神经,元,元相,联,联系,的,的特,殊,殊部,位,位,神经,网,网络,的,的生,物,物学,机,机理,神经,元,元的,基,基本,工,工作,机,机制,（,（简,化,化）,：,：,一个,神,神经,元,元有,两,两种,状,状态,：,：兴奋,和,和抑,制,制；,平时,处,处于,抑,抑制,状,状态,的,的神,经,经元,，,，其,树,树突,和,和胞,体,体接,收,收其,他,他神,经,经元,由,由突,触,触传,来,来的,兴,兴奋,电,电位,，,，多,个,个输,入,入在,神,神经,元,元中,以,以代,数,数和,的,的方,式,式叠,加,加；,如果,输,输入,兴,兴奋,电,电位,总,总量,超,超过,某,某个阈值，神,经,经元,会,会被,激,激发,进,进入,兴,兴奋,状,状态,，,，发,出,出输,出,出脉,冲,冲，,并,并由,突,突触,传,传递,给,给其,他,他神,经,经元,。,。,神经,元,元被,触,触发,后,后进,入,入不应,期,期，在,不,不应,期,期不,能,能被,触,触发,，,，然,后,后阈,值,值逐,渐,渐下,降,降，,恢,恢复,兴,兴奋,性,性。,神经,网,网络,的,的生,物,物学,机,机理,生物,神,神经,网,网络,的,的六,个,个基,本,本特,征,征：,1.,神经,元,元及,其,其联,接,接；,2.,神经,元,元之,间,间的,联,联接,强,强度,决,决定信号,传,传递的强,弱,弱；,3.,神经,元,元之,间,间的,联,联接,强,强度,是,是可,以,以随训练改变,的,的；,4.,信号,可,可以,是,是起刺激作用,的,的，,也,也可,以,以是,起,起抑制作用,的,的；,5.,一个,神,神经,元,元接,受,受的,信,信号,的,的累积,效,效果决定,该,该神,经,经元,的,的状,态,态；,6.,每个,神,神经,元,元可,以,以有,一,一个“阈,值,值”。,人工,神,神经,元,元模,型,型,MP,模型,是一,种,种人,工,工神,经,经元,的,的数,学,学模,型,型，,它,它是,由,由美,国,国,Culloch,和,Pitts,提出,的,的最,早,早神,经,经元,模,模型,之,之一,。,。,MP,模型,是,是大,多,多数,神,神经,网,网络,模,模型,的,的基,础,础。,MP,模型,示,示意,图,图：,人工