最新第五章 机器学习

《最新第五章 机器学习》由会员分享，可在线阅读，更多相关《最新第五章 机器学习（75页珍藏版）》请在文档大全上搜索。

1、第五章第五章 机器学习机器学习一、概述一、概述二、主要策略与基本结构二、主要策略与基本结构三、常用的学习方法三、常用的学习方法四、数据挖掘和知识发现方法四、数据挖掘和知识发现方法五、数据挖掘开发工具简介五、数据挖掘开发工具简介当前人工智能和神经计算的核心研究课题之一当前人工智能和神经计算的核心研究课题之一教学要求教学要求 了解机器学习的定义、发展史及意义；了解机器学习的定义、发展史及意义； 理解掌握机器学习的基本结构；理解掌握机器学习的基本结构； 理解常用机器学习的方法原理；理解常用机器学习的方法原理； 初步了解初步了解数据挖掘及知识发现数据挖掘及知识发现的知识的知识第五章第五章 机器学习机器

2、学习一、概述一、概述 定义、发展史、意义等定义、发展史、意义等二、主要策略与基本结构二、主要策略与基本结构三、常用的学习方法三、常用的学习方法四、数据挖掘和知识发现方法四、数据挖掘和知识发现方法五、数据挖掘开发工具简介五、数据挖掘开发工具简介 什么是机器学习？什么是机器学习？ Simon（1983）：学习就是系统中的变化，这种）：学习就是系统中的变化，这种变化使系统比以前更有效地去做同样的工作。变化使系统比以前更有效地去做同样的工作。 Minsky (1985)：学习是在我们头脑中（心里）进：学习是在我们头脑中（心里）进行有用的变化。行有用的变化。 学习是一种具有多侧面的现象。学习的过程有：学

3、习是一种具有多侧面的现象。学习的过程有：获取新的陈述性知识、通过教育或实践发展机械获取新的陈述性知识、通过教育或实践发展机械技能和认知能力、将新知识组织成为通用化和有技能和认知能力、将新知识组织成为通用化和有效的表达形式、借助观察和实验发现新的事实和效的表达形式、借助观察和实验发现新的事实和新的理论。新的理论。 基本形式基本形式知识获取和技能求精。知识获取和技能求精。学习的本质就是获取新的知识。包括物理系统学习的本质就是获取新的知识。包括物理系统和行为的描述和建模，构造客观现实的表示。和行为的描述和建模，构造客观现实的表示。知识获取知识获取通过实践逐渐改造机制和认知技能。通过实践逐渐改造机制和

4、认知技能。例：骑自行车。这些技能包括意识的或机制的例：骑自行车。这些技能包括意识的或机制的协调。这种改进又是通过反复实践和从失败的协调。这种改进又是通过反复实践和从失败的行为中纠正偏差来进行的。行为中纠正偏差来进行的。 技能求精技能求精知识获取的本质可能是一个自觉的过程，其结果是知识获取的本质可能是一个自觉的过程，其结果是产生新的符号知识结构和智力模型。产生新的符号知识结构和智力模型。技能求精是下意识地借助于反复地实践来实现的。技能求精是下意识地借助于反复地实践来实现的。机器学习是研究计算机怎样模拟或实现人类的学习机器学习是研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织

5、已有的知行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。识结构使之不断改善自身的性能。人工智能主要是为了人工智能主要是为了研究人的智能，模仿其机研究人的智能，模仿其机理将其应用于工程的科学理将其应用于工程的科学。在这个过程中必然。在这个过程中必然会问道：会问道：“人类怎样做才能获取这种特殊技能人类怎样做才能获取这种特殊技能 （或知识）？（或知识）？”。例子：机器人跳舞例子：机器人跳舞 机器人演奏机器人演奏现在的人工智能系统还完全没有或仅有很有限现在的人工智能系统还完全没有或仅有很有限的学习能力。的学习能力。系统中的知识由人工编程送入系统系统中的知识由人工编程送入系统，

6、知识中的错误也不能自动改正。，知识中的错误也不能自动改正。也就是说，也就是说，现现有的大多数人工智能是演绎的、没有归纳推理，有的大多数人工智能是演绎的、没有归纳推理，因而不能自动获取和生成知识。因而不能自动获取和生成知识。 未来的计算机将有自动获取知识的能力，未来的计算机将有自动获取知识的能力，它它们直接由书本学习，通过与人谈话学习，通们直接由书本学习，通过与人谈话学习，通过观察学习过观察学习。它们通过实践自我完善，。它们通过实践自我完善，克服克服人的存储少、效率低、注意力分散、难以传人的存储少、效率低、注意力分散、难以传送所获取的知识等局限性送所获取的知识等局限性。一台计算机获取。一台计算机

7、获取的知识很容易复制给任何其它机器。的知识很容易复制给任何其它机器。 机器学习在机器学习在AIAI研究中是较为年轻的分支，发展过程研究中是较为年轻的分支，发展过程大体可分为大体可分为4 4个时期：个时期： 第一阶段第一阶段5050年代中到年代中到6060年代中期，热烈时期；年代中期，热烈时期； 第二阶段从第二阶段从6060年代中至年代中至7070年代中期，机器学习的冷年代中期，机器学习的冷静时期；静时期； 第三阶段从第三阶段从70年代中至年代中至80年代中期，复兴时期；年代中期，复兴时期； 机器学习的最新阶段始于机器学习的最新阶段始于1986年年机器学习已成为新的机器学习已成为新的边缘学科边缘

8、学科并在高校形成一门并在高校形成一门课程。课程。结合各种学习方法，取长补短的多种形式的结合各种学习方法，取长补短的多种形式的集成集成学习系统研究学习系统研究正在兴起。正在兴起。各种各种学习方法的应用范围不断扩大学习方法的应用范围不断扩大，一部分已形，一部分已形成商品。归纳学习的知识获取工具已在诊断分类成商品。归纳学习的知识获取工具已在诊断分类型专家系统中广泛使用。型专家系统中广泛使用。与机器学习有关的与机器学习有关的学术活动空前活跃学术活动空前活跃。国际上除。国际上除每年一次的机器学习研讨会外，还有计算机学习每年一次的机器学习研讨会外，还有计算机学习理论会议以及遗传算法会议。理论会议以及遗传算

9、法会议。 男，男，1973年年11月生。分别于月生。分别于1996年年6月、月、 1998年年6月和月和2000年年12月于月于 南京大学计算机南京大学计算机 科学与技术系科学与技术系 获学士、硕士和博士学位。获学士、硕士和博士学位。2001年年1月起留校任教。月起留校任教。2002年年3月破格晋升月破格晋升副教授副教授，2003年年11月被聘任为月被聘任为教授教授，2004年年4月获月获博士生导师博士生导师资格。资格。现任现任 人工智能教研室人工智能教研室 主任、机器学习与数据挖掘主任、机器学习与数据挖掘 研究组研究组 负责人。负责人。南京航天航空大学南京航天航空大学 兼职教授、兼职教授、澳

10、大澳大利亚利亚 Deakin大学大学 名誉名誉研究员研究员、复旦大学智能信息处、复旦大学智能信息处理重点实验室理重点实验室 学术委员会委员。学术委员会委员。 第五章第五章 机器学习机器学习一、概述一、概述二、主要策略与基本结构二、主要策略与基本结构三、常用的学习方法三、常用的学习方法四、数据挖掘和知识发现方法四、数据挖掘和知识发现方法五、数据挖掘开发工具简介五、数据挖掘开发工具简介 学习是一项复杂的智能活动，学习过程与推理过学习是一项复杂的智能活动，学习过程与推理过程是紧密相连的。程是紧密相连的。 按照学习中使用推理的多少按照学习中使用推理的多少，机器学习所采用的，机器学习所采用的策略大体上可

11、分为策略大体上可分为4 4种：种： 机械学习机械学习 通过传授学习通过传授学习 类比学习类比学习 通过事例学习通过事例学习1 机器学习机器学习的主要策略的主要策略其它策略见其它策略见“机器学习策略综述机器学习策略综述”一文一文 2 机器学习的基本结构机器学习的基本结构图图1 学习系统的基本结构学习系统的基本结构环境环境向系统的学习环节提供某些信息；向系统的学习环节提供某些信息；学习环节学习环节利用这些信息修改知识库，以增进系统执利用这些信息修改知识库，以增进系统执 行部分完成任务的效能；行部分完成任务的效能；执行环节执行环节利用知识库中的知识完成某种任务，同时利用知识库中的知识完成某种任务，同