机器学习入门介绍课件.ppt

書式設定,書式設定,第 2,第 3,第 4,第 5,*,Artificial Intelligence Principles and Applications,書式設定,書式設定,第 2,第 3,第 4,第 5,第,7,章 机器学习,(Machine Learning),桑克（,R.Shank),：,“一台计算机若不会学习，就不能说它具有智能。”,第,7,章 机器学习,7.1,机器学习的基本概念,7.2,机械式学习,7.3,指导式学习,7.4,归纳学习,7.5,类比学习,7.6,基于解释的学习,7.7,学习方法的比较与展望,7.1,机器学习的基本概念,2,7.1,机器学习的基本概念,7.1.1,学习,7.1.2,机器学习,7.1.3,机器学习系统,7.1.4,机器学习的发展,7.1.5,机器学习的分类,3,7.1.1,学习,（,1,）学习是系统改进其性能的过程：西蒙，,1980,。,（,2,）学习是获取知识的过程。,（,3,）学习是技能的获取。,（,4,）学习是事物规律的发现过程。,学习,：一个有特定目的的知识获取过程。,内在行为,：获取知识、积累经验、发现规律。,外部表现,：改进性能、适应环境、实现系统的自我完善。,“,学习是系统中的任何改进，这种改进使得系统在重复同样的工作或进行类似的工作时，能完成得更好。”,例如“小孩学走路”、“学弹钢琴”等。,学习：从感性知识到理性知识的认识过程，从表层知识到深层知识的转换过程。,4,7.1,机器学习的基本概念,7.1.1,学习,7.1.2,机器学习,7.1.3,机器学习系统,7.1.4,机器学习的发展,7.1.5,机器学习的分类,5,机器学习,(Machine Learning),：计算机能模拟人的学习行为，自动地通过学习获取知识和技能，不断改善性能，实现自我完善。,7.1.2,机器学习,1,）,学习机理,:,对学习机制的研究，即人类获取知识、技能和抽象概念的天赋能力。,2,）,学习方法,：在生物学习机理进行简化的基础上，用计算的方法进行再现。,3,）,学习系统,：根据特定任务的要求，建立相应的学习系统。,6,7.1,机器学习的基本概念,7.1.1,学习,7.1.2,机器学习,7.1.3,机器学习系统,7.1.4,机器学习的发展,7.1.5,机器学习的分类,7,机器学习系统的定义,学习系统：,能够在一定程度上实现机器学习的系统。,萨利斯,(Saris),的定义（,1973,年）,：能够从,某个过程或环境,的未知特征中,学到有关信息,，并且能把学到的信息,用于,未来的估计、分类、决策或控制，以便,改进系统的性能,。,施密斯等的定义（,1977,年）,：,在与,环境,相互作用时，能,利用,过去,与环境作用时得到的信息,，并,提高其性能,。,7.1,机器学习的基本概念,7.1.3,机器学习系统,8,2.,机器学习系统的条件和能力,（,1,）具有适当的学习环境,（,2,）具有一定的学习能力,（,3,）能应用学到的知识求解问题,（,4,）能提高系统的性能,7.1.3,机器学习系统,9,3.,机器学习系统的基本模型,7.1.3,机器学习系统,执行与评价,环境,学习,知识库,学习系统的基本结构,10,7.1,机器学习的基本概念,7.1.1,学习,7.1.2,机器学习,7.1.3,机器学习系统,7.1.4,机器学习的发展,7.1.5,机器学习的分类,11,7.1.4,机器学习的发展,神经元模型的研究（,20,世纪,50,年代中期,）,主要研究工作：应用,决策理论的方法,研制可适应环境的,通用学习系统（,general purpose learning system,）,。,1957,年，罗森勃拉特（,F.Rosenblatt,）提出,感知器模型,。,塞缪尔（,Samuel,）的,跳棋程序,：分析了约,175000,副不同棋局后，归纳出了棋类书上推荐的走法，准确率达到,48,。,1969,年，明斯基和佩珀特（,Papert,）发表了论著,Perceptron,，对神经元模型的研究作出了悲观的论断。,12,7.1.4,机器学习的发展,2.,符号学习的研究（,20,世纪,70,年代中期,）,符号概念获取的学习方法,（,1970,年）：模拟人类的概念学习过程，通过分析一些概念的正例和反例构造出这些概念的符号表示。,莫斯托夫（,D.J.Mostow,）的,指导式学习,。,温斯顿（,Winston,）和卡鲍尼尔（,J.G.Carbonell,）的,类比学习,。,米切尔（,T.M.Mitchell,）等人的,解释学习,。,13,7.1.4,机器学习的发展,3.,连接学习的研究（,20,世纪,80,年代,）,连接学习：一种以非线性大规模并行处理为主流的神经网络研究。,1980,年，在卡内基梅隆大学召开了第一届机器学习国际研讨会。,1986,年，创刊了第一本机器学习杂志,Machine Learning,。,14,7.1,机器学习的基本概念,7.1.1,学习,7.1.2,机器学习,7.1.3,机器学习系统,7.1.4,机器学习的发展,7.1.5,机器学习的分类,15,7.1.5,机器学习的分类,1.,按学习方法分类（温斯顿，,1977,）：,机械式学习、指导式学习、示例学习、类比学习、解释学习等。,2.,按学习能力分类：,监督学习,（有教师学习）,16,7.1.5,机器学习的分类,按学习能力分类：,再励学习（强化学习或增强学习）,17,7.1.5,机器学习的分类,按学习能力分类：,非监督学习（无教师学习）,3.,按推理方式分类：,基于演绎的学习（解释学习）。,基于归纳的学习（示例学习、发现学习等）。,4.,按综合属性分类：,归纳学习、分析学习、连接学习、遗传式学习等。,18,第,7,章 机器学习,7.1,机器学习的基本概念,7.2,机械式学习,7.3,指导式学习,7.4,归纳学习,7.5,类比学习,7.6,基于解释的学习,7.7,学习方法的比较与展望,19,7.2,机械式学习,机械式,学习（,rote learning,）,又称,记忆学习,，或,死记式学习,：通过直接记忆或者存储外部环境所提供的信息达到学习的目的，并在以后通过对知识库的检索得到相应的知识直接用来求解问题。,机械式学习,实质,是用存储空间来换取处理时间。,20,7.2,机械式学习,在,给定搜索深度,下用估价函数对格局进行评分，通过倒推计算求出上层节点的,倒推值,，决定当前的,最佳走步,。,下次遇到相同情况，直接利用倒推值决定最佳走步，不需重新计算。,塞缪尔的跳棋程序,CHECKERS,以,A,为结点的博弈树,Q,A,6,A,博弈搜索树,2,B,6,C,2,4,8,6,9,1,2,3,4,3,8,6,5,6,4,9,6,21,第,7,章 机器学习,7.1,机器学习的基本概念,7.2,机械式学习,7.3,指导式学习,7.4,归纳学习,7.5,类比学习,7.6,基于解释的学习,7.7,学习方法的比较与展望,22,7.3,指导式学习,指导式学习,（,learning by being told,）又称,嘱咐式学习,或,教授式学习,：由外部环境向系统提供一般性的指示或建议，系统把它们具体地转化为细节知识并送入知识库中。在学习过程中要反复对形成的知识进行评价，使其不断完善。,指导式学习的学习过程：征询指导者的指示或建议、把征询意见转换为可执行的内部形式、加入知识库、评价。,23,7.3,指导式学习,简单征询：指导者给出一般性的意见，系统将其具体化。,复杂征询：系统不仅要求指导者给出一般性的建议，而且还要具体地鉴别知识库中可能存在的问题，并给出修改意见。,被动征询：系统只是被动地等待指导者提供意见。,主动征询：系统不只是被动地接受指示，而且还能主动地提出询问，把指导者的注意力集中在特定的问题上。,1.,征询指导者的指示或建议,24,7.3,指导式学习,学习系统应具有把用约定形式表示的征询意见转化为计算机内部可执行形式的能力，并且能在转化过程中进行语法检查及适当的语义分析。,2.,把征询意见转换为可执行的内部形式,在加入过程中要对知识进行一致性检查，以防止出现矛盾、冗余、环路等问题。,3.,加入知识库,评价方法：对新知识进行经验测试，即执行一些标准例子，然后检查执行情况是否与已知情况一致。,4.,评价,25,第,7,章 机器学习,7.1,机器学习的基本概念,7.2,机械式学习,7.3,指导式学习,7.4,归纳学习,7.5,类比学习,7.6,基于解释的学习,7.7,学习方法的比较与展望,26,7.4,归纳学习,7.4.1,归纳推理,7.4.2,示例学习,7.4.3,观察与发现学习,27,7.4.1,归纳推理,归纳推理：应用,归纳方法,所进行的推理，即从足够多的事例中归纳出一般性的知识。,它是一种从个别到一般、从部分到整体的推理。,归纳推理的重要特征：,归纳出的结论不能绝对保证它的正确性，只能以某种程度相信它为真,。,例如，由,“,麻雀会飞,”,、,“,鸽子会飞,”,、,“,燕子会飞,”,归纳出,“,有翅膀的动物会飞,”,、,“,长羽毛的动物会飞,”,等结论。,28,从个别事例归纳出一般性知识的方法：,设 ：某类事物,A,中的具体事物。,已知 都有属性,P,，并且没有发现反例。,当,n,足够大时，可得出：“,A,中所有事物都有属性,P,”,。,7.4.1,归纳推理,1.,枚举归纳,29,例如，设有如下已知事例：,张三是足球运动员，他的体格健壮。,李四是足球运动员，他的体格健壮。,刘六是足球运动员，他的体格健壮。,事例足够多时，可归纳出一般性知识：,凡是足球运动员，他的体格一定健壮。,7.4.1,归纳推理,1.,枚举归纳,(0.9),30,已知两个事物,a,与,b,有,n,个属性相似或相同，即：,a,具有属性,P,1,，,b,也具有属性,P,1,。,a,具有属性,P,2,，,b,也具有属性,P,2,。,a,具有属性,P,n,，,b,也具有属性,P,n,。,且,a,具有属性,P,n+,1,，则当,n,足够大时，可归纳出,b,也具有属性,P,n+,1,。,7.4.1,归纳推理,2.,联想归纳,31,设：,且,则当,A,与,B,中有新元素出现时（设,A,中的,a,及,B,中的,b,），若已知,a,有属性，就可得出,b,有属性，即,7.4.1,归纳推理,3.,类比归纳,32,一般模式,：,（,1,）若,H,为真时，则,H,E,必为真或以置信度,cf,1,成立。,（,2,）观察到,E,成立或以置信度,cf,2,成立。,（,3,）则,H,以某种置信度,(,cf,),成立。,7.4.1,归纳推理,4.,逆推理归纳：,由结论成立推出前提以某种置信度成立。,用公式表示,：,33,则,H,的置信度：,7.4.1,归纳推理,4.,逆推理归纳（续）,E,H,的置信度,cf,1,=,P,(,H,/,E,),H,E,的置信度,cf,1,=,P,(,E,/,H,),H,E,1,cf,E,2,cf,H,cf,34,7.4.1,归纳推理,5.,消除归纳,消除归纳：通过不断否定原先的假设来得出结论,。,已知：,结论：,35,7.4.1,归纳推理,演绎推理,归纳推理,一般 个别,个别,一般,必然性推理,或然性推理（,“,主观不充分置信,”,的推理）,结论不会超出前提所断定,的范围；,不能获取新知识。,结论适用于更大的范围；,可获取新知识。,演绎推理与归纳推理的区别,36,7.4,归纳学习,7.4.1,归纳推理,7.4.2,示例学习,7.4.3,观察与发现学习,37,7.4.2,示例学习,示例学习,（,learning from examples,，,实例学习,或,从例子中学习,）：通过从环境中取得若干与某概念有关的例子，经归纳得出一般性概念的一种学习方法。,示例学习中，外部环境（教师）提供一组例子（正例和反例），然后从这些特殊知识中归纳出适用于更大范围的一般性知识，它将覆盖所有的正例并排除所有反例。,38,7.4.2,示例学习,1.,示例学习的学习模型,示例空间,验证,搜索,解释,形成知识,知识库,图,7.7,示例学习的学习模型,39,7.4.2,示例学习,2.,形成知识的方法,（,1,）,变量代换常量,例如，假设有两个关于扑克牌,“同花”,概念的示例。,示例,1,：,示例,2,：,可得到一条一般性的知识：,规则,1,：,40,7.4.2,示例学习,2.,形成知识的方法,（,2,）舍弃条件,例如示例：,可得到一条一般性的知识：,规则,1,：,花色,(,c,1,黑桃,),点数（,c,1,7,）,花色,(,c,2,黑桃,),点数（,c,2,3,）,花色,(,c,3,黑桃,),点数（,c,3,10,）,花色,(,c,4,黑桃,),点数（,c,4,5,）,同花,(,c,1,c,2,c,3,c,4,),41,7.4.2,示例学习,2.,形成知识的方法,（,3,）增加操作,前件析取法,例如,关于,“,脸牌,”示例：,得到知识：,42,7.4.2,示例学习,2.,形成知识的方法,（,3,）增加操作,内部析取法：在示例的表示中使用集合与集合间的成员关系来形成知识。,例如示例：,得到知识：,43,7.4.2,示例学习,2.,形成知识的方法,（,4,）合取变析取,例如：,“,男同学,与,女同学可以组成一个班,”,。,归纳：,“,男同学,或,女同学可以组成一个班,”,。,（,5,）归结归纳,例如：,得到：,示例,1,：某天下雨，且,自行车在路上出了毛病需修理,，所以他上班迟到。,示例,2,：某天没下雨，但,交通阻塞,，所以他上班迟到。,得到：如果,自行车在路上出了毛病需修理,，,或者,交通阻塞,，则他有可能上班迟到。,44,7.4.2,示例学习,2.,形成知识的方法,（,6,）曲线拟合,设在示例空间提供了一批如下形式的示例：,(,x,y,z,),示例,1,：,(,1,0,10,),示例,2,：,(,2,1,18,),示例,3,：,(-1,-2,-6,),应用曲线拟合法（例如,最小二乘法）,得到：,z,=,2,x,+,6,y,+,8,45,7.4,归纳学习,7.4.1,归纳推理,7.4.2,示例学习,7.4.3,观察与发现学习,46,7.4.3,观察与发现学习,观察与发现学习（,learning from observing and discovery,）,:,观察学习,：用于对事例进行概念聚类，形成概念描述。,发现学习,：用于发现规律，产生定律或规则。,47,7.4.3,观察与发现学习,1.,概念聚类,(,1980,年,米卡尔斯基（,R.S.Michalski,),基本思想,:,把事例按一定的方式和准则进行分组，如划分为不同的类，不同的层次等，使不同的组代表不同的概念，并且对每一个组进行特征概括，得到一个概念的语义符号描述。,48,7.4.3,观察与发现学习,1.,概念聚类,例如事例：,喜鹊、麻雀、布谷鸟、乌鸦、鸡、鸭、鹅，,分为两类：,鸟,=,喜鹊，麻雀，布谷鸟，乌鸦，,家禽,=,鸡、鸭、鹅，,得知：,“,鸟,有羽毛、有翅膀、会飞、会叫、野生”。,“,家禽,有羽毛、有翅膀、会飞、会叫、家养”。,49,7.4.3,观察与发现学习,2.,发现学习,发现学习,:,从系统的初始知识、观察事例或经验数据中归纳出规律或规则。,无教师指导的归纳学习,经验发现,:,从经验数据中发现规律和定律。,知识发现,:,指从已观察的事例中发现新的知识。,50,第,7,章 机器学习,7.1,机器学习的基本概念,7.2,机械式学习,7.3,指导式学习,7.4,归纳学习,7.5,类比学习,7.6,基于解释的学习,7.7,学习方法的比较与展望,51,7.5,类比学习,7.5.1,类比推理,7.5.2,属性类比学习,7.5.3,转换类比学习,类比学习,(learning by analogy),：通过对相似事物进行比较所进行的一种学习。,52,7.5.1,类比推理,类比推理：由新情况与记忆中的已知情况在某些方面相似，从而推出它们在其他相关方面也相似。,源域,S,：已经认识的域，包括过去曾经解决过且与当前问题类似的问题以及相关知识；,目标域,T,：当前尚未完全认识的域，是遇到的新问题。,类比推理的目的：从,源域,S,中选出与当前问题最近似的问题及其求解方法来求解当前的问题，或者建立起,目标域,T,中已有命题间的联系，形成新知识。,53,7.5.1,类比推理,类比推理的推理过程：,1,）回忆与联想：在,S,中找出与当前情况相似的情况，并按相似度从高到低进行排序。,2,）选择：选出与当前情况最相似的情况及其有关知识。,3,）建立对应关系：在,S,与,T,的相似情况之间建立相应的映射。,4,）转换：把,S,中的有关知识引到,T,中，建立起求解当前问题的方法或者学习到关于,T,的新知识。,设,S,1,与,T,1,分别表示,S,与,T,中的某一情况，且,S,1,与,T,1,相似，再假设,S,2,与,S,1,相关，则由类比推理可推出,T,中的,T,2,，且,T,2,与,S,2,相似。,54,7.5,类比学习,7.5.1,类比推理,7.5.2,属性类比学习,7.5.3,转换类比学习,55,7.5.2,属性类比学习,属性类比学习,:,根据两个相似事物的,属性,实现类比学习的。,属性类比学习系统（,1979,年，温斯顿）：,源域和目标域都是用,框架,表示的，分别称为,源框架,和,目标框架,。框架的槽用于表示事物的属性。,学习过程,:,把,源框架,中的某些槽值传递到,目标框架,的相应槽中去。,56,7.5.2,属性类比学习,候选槽,：其槽值有可能要传递给目标框架的那些槽。,选择的方法：,（,1,）选择具有极端槽值的槽，例如“很大”、“很小”,（,2,）选择已经被确认为“重要槽”的槽,（,3,）选择与源框架相似的框架中不具有的槽,（,4,）选择相似框架中不具有这种槽值的槽,（,5,）选择源框架中的所有槽,1.,从,源框架,中选择若干槽作为,候选槽,57,7.5.2,属性类比学习,筛选规则：,（,1,）选择在目标框架中还未填值的槽。,（,2,）选择在目标框架中为典型事例的槽。,（,3,）选择,与目标框架有紧密关系的槽，或者与目,标框架的槽类似的槽。,2.,根据,目标框架,对,候选槽,进行筛选,58,7.5,类比学习,7.5.1,类比推理,7.5.2,属性类比学习,7.5.3,转换类比学习,59,7.5.3,转换类比学习,在状态空间表示法的知识表示中，,“,状态,”,：描述问题在不同时刻的状况；,“,算符,”,：描述改变状态的操作。,当问题由初始状态变换到目标状态时，所用算符的序列就构成了问题的一个解。,如何使问题由初始状态变换到目标状态呢？,“,手段目标分析,”,法（,means-end analysis,，,MEA,）,，又称为,“,中间结局分析,”,法,：纽厄尔等人在通用问题求解程序,GPS,（,general problem solver,）中提出的一种问题求解模型。,60,7.5.3,转换类比学习,“,手段目标分析,”,法（,MEA,）,求解问题的基本过程,：,（,1,）把问题的,当前状态,与,目标状态,进行比较，找出,差异,。,（,2,）根据差异找出一个,可减小差异的算符,。,（,3,）如果该算符可作用于,当前状态,，则,用该算符把当前状态改变为另一个更接近于目标状态的状态,；如果不能，则保留,当前状态,，并生成一个子问题，再对此子问题应用,MEA,。,（,4,）当子问题被求解后，恢复,保留的状态,，继续处理原问题。,61,7.5.3,转换类比学习,回忆过程,：找出新、旧问题间的,差别,，包括：,（,1,）初始状态的差别。,（,2,）目标状态的差别。,（,3,）路径约束的差别。,（,4,）求解方法可应用度的差别。,转换过程,：把,旧问题的求解方法,经适当,变换,使之成为,求解新问题的方法,，变换中用,MEA,来减小,目标状态,与,初始状态,之间的差异，使初始状态逐步过渡到目标状态，即求出问题的解。,转换类比学习：由外部环境获得与类比有关的信息，学习系统找出与新问题相似的旧问题的有关知识，把这些知识进行,转换,使之适用于新问题，从而获得新的知识。,62,第,7,章 机器学习,7.1,机器学习的基本概念,7.2,机械式学习,7.3,指导式学习,7.4,归纳学习,7.5,类比学习,7.6,基于解释的学习,7.7,学习方法的比较与展望,63,7.6,解释学习,解释学习（,explanation-based learning,）,：由美国,Illinois,大学的,Dejong,于,1983,年提出，属于分析学习，本质为演绎学习方法。,它是通过运用相关的领域知识，对当前提供的,单个实例,的问题求解进行分析，从而构造解释并产生相应知识的。,解释学习系统：,米切尔（,Mitchell,）等人研制的,LEX,和,LEAP,系统,，,明顿（,S.Minton,）等人研制的,PRODIGY,系统,等。,64,7.6,解释学习,7.6.1,解释学习的概念,7.6.2,解释学习的学习过程,7.6.3,领域知识的完善性,65,7.6.1,解释学习的概念,解释学习：通过运用相关的,领域知识,及,一个训练实例,来对某一目标概念进行学习，并最终生成这个目标概念的一般性描述。,解释学习的一般性描述（米切尔（,Mitchell,）等，,1986,）：,给定：,领域知识,DT,（用于证明训练实例为什么可作为目标概念的实例）,目标概念,TC,（要学习的概念）,训练实例,TE,操作性准则,OC,（指导系统对描述目标的概念进行取舍）,找出：满足,OC,的关于,TC,的充分条件。,66,7.6.1,解释学习的概念,解释学习与示例学习的主要区别：,（,1,）示例学习：输入一组实例。,解释学习：输入一个实例。,（,2,）示例学习：归纳学习，不要求提供领域知识。,解释学习：演绎学习，要求提供完善的领域知识。,（,3,）示例学习：概念的获取，即知识增加的一面。,解释学习：,技能提高的一面。,67,7.6.2,解释学习的学习过程,证明过程：通过运用领域知识进行演绎实现的，证明的结果是得到一个解释结构。,1.,构造解释,解释学习的学习过程：首先运用领域知识找出训练实例为什么是目标概念的证明，即解释，然后按操作性准则对解释进行推广，从而得出关于目标概念的学习描述。,例如，学习目标：“一个物体,x,可以安全地放置在另一个物体,y,的上面”（堆叠问题）。,目标概念：物体（,x,y,),，,Safe-to-stack(,x,y,),68,7.6.2,解释学习的学习过程,训练实例（描述物体,Obj,1,和,Obj,2,的事实）：,领域知识（安全放置准则和计算准则）：,例如，学习目标：“一个物体,x,可以安全地放置在另一个物体,y,的上面”（堆叠问题）。,目标概念：物体（,x,y,),，,Safe-to-stack(,x,y,),69,7.6.2,解释学习的学习过程,1.,构造解释,),(,2,1,Obj,Obj,Stack,To,Safe,-,-,),(,2,1,Obj,Obj,Lighter,),1,.,0,(,1,Obj,Weight,),15,(,2,Obj,Weight,),15,1,.,0,(,Smaller,),(,2,book,table,Obj,Isa,-,),1,(,1,Obj,Volume,),1,.,0,(,1,Obj,Density,),1,.,0,1,.,0,1,(,*,Safe,-,To,-,Stack,(,Obj,1,Obj,2,),的解释结构,70,7.6.2,解释学习的学习过程,任务：对上一步得到的解释结构进行一般化处理，从而得到关于目标概念的一般性知识。,处理的方法,:,把常量变换为变量，并把某些不重要的信息去掉，只保留那些对以后求解问题所必须的关键性信息。,2.,获取一般性的知识,71,7.6.2,解释学习的学习过程,2.,获取一般性的知识,),(,2,1,O,O,Stack,To,Safe,-,-,),(,2,1,O,O,Lighter,),(,1,1,w,O,Weight,),15,(,2,O,Weight,),15,(,1,w,Smaller,),(,2,book,table,O,Isa,-,),(,1,1,v,O,Volume,),(,1,1,d,O,Density,),(,*,1,1,1,w,d,v,Safe,-,To,-,Stack,(,O,1,O,2,),一般化解释结构,72,7.6.3,领域知识的完善性,两种极端情况：,（,1,）构造不出解释,原因：系统中缺少某些相关的领域知识，或者领域知识中包含了矛盾等错误。,（,2,）构造出了多种解释,原因：领域知识不健全，已有的知识不足以把不同的解释区分开来。,73,第,7,章 机器学习,7.1,机器学习的基本概念,7.2,机械式学习,7.3,指导式学习,7.4,归纳学习,7.5,类比学习,7.6,基于解释的学习,7.7,学习方法的比较与展望,74,7.7,机器学习方法的比较与展望,7.7.1,各种机器学习方法的比较,7.7.2,机器学习的展望,75,7.7.1,各种机器学习方法的比较,以推理能力排列,机械式学习，指导式学习，解释学习，类比学习，,示例学习，观察与发现学习,。,适用领域,连接学习,：模拟人类较低级的神经活动。,符号学习,：模拟人类的高级思维活动。,对领域理论的要求,示例学习、观察与发现学习,：领域理论要求较少。,解释学习,：要求提供完善的领域知识。,76,7.7.1,各种机器学习方法的比较,知识获取角度：,示例学习、观察与发现学习,：通过学习可以产生新概念,描述，可用于专家系统的知识获取。,解释学习,:,学习目标主要是改善系统的效率，而不扩充,概念描述的范围。,指导式学习,:,通过与指导者（如领域专家）的交互学习新,知识，同时又可帮助指导追踪推理过程，发现其中的错,误，找出产生错误的原因，然后由指导者进行修正。,77,7.7,机器学习方法的比较与展望,7.7.1,各种机器学习方法的比较,7.7.2,机器学习的展望,78,7.7.2,机器学习的展望,（,1,）人类学习机制的研究。,（,2,）发展和完善现有的学习方法，并开展新的学习,方法的研究。,（,3,）建立实用的学习系统，特别是多种学习方法协,同工作的集成化系统的研究。,（,4,）机器学习的结构模型、计算理论、算法和混合,学习的有关理论及应用的研究。,79,THE END,Artificial Intelligence Principles and Applications,80,