机器学习、深度学习和强化学习的关系和区别

slime2022-05-06 17:19

这里涉及到机器学习子领域的分类。所有的分类,首先要问的是为什么这么分?按什么维度进行划分?符合逻辑的分类能帮助人们建立认知架构,不符合逻辑的分类能让人一头雾水。

机器学习、深度学习和强化学习的关系和区别

1、机器学习是人工智能的子领域

人工智能的子领域,沿着历史的发展,有比较显著的特点。大致可分为:

60年代开始的“推理期”:研究搜索,成果包含定理自动证明、国际象棋系统DeepBlue

仅会推理并无法处理实际问题,实际问题中需要宽泛的知识。70年代开始的“知识期”,研究基于知识的推理,成果包含Prolog、各类专家系统、以及今天的知识图谱

仅靠人工录入知识,难以形成大规模应用。90年底开始的“学习期”,研究从数据中归纳知识,成果包含今天的各种数据分析、挖掘系统

可见“学习”是人工智能的一个大方向,“机器学习”按照Tom Mitchell的定义是从经验中自动改进系统性能的程序。经验常以数据的方式呈现,因此实践上机器学习为数据分析提供了主要工具。换句话说,今天对数据进行较为深入的分析,总结出模型的工作,都属于机器学习范畴。

2、机器学习的任务分类

机器学习从数据中总结模型,而数据表示的经验可以包含不同的信息形态,其中的一个关键的信息,是关于模型表现的反馈信息。有的数据中包含了模型应该输出的值,有的数据则完全没有这一类信息,还有的数据中包含的是对模型表现的打分。不同的反馈信息导致我们需要用不同的技术进行处理,因此按照反馈信息的不同,机器学习经典划分为三大类:

监督学习:处理包含有模型正确输出值的数据,即有标记数据。例如图像识别数据中,每一张图像都有相应分类标记。

强化学习:处理的数据仅包含有模型打分值,而不知道模型到底应该输出什么,因此只能靠算法去不断的探索,寻找打分值最高的模型输出。例如围棋游戏,缺乏每一步走棋的最佳指导,只能通过最终的输赢作为打分,自主探索寻找最佳模型。

无监督学习:数据中完全没有关于模型输出好坏的客观评估。这时通常会人为的设置某种学习目标,以开展学习,例如把256维人脸照片压缩到4维,此时并没有任何关于这4维应该如何的信息,一种做法是使得这4维能够还原出256维的人脸,这就是一种人为设定的目标。这种还原自身信息的做法也叫自监督学习,虽然名称中有“监督”,其实是一类借用监督技术的无监督学习。

可见这一分类,是按照机器学习的任务维度进行划分。当然这样的划分并不具有完全清晰的边界,随着越来越多的交叉领域研究工作的开展,出现很多衍生的方向:

监督学习X无监督学习:例如数据包含一部分有标记/有一部分标记的数据、以及无标记的数据,研究如何利用无标记数据提升模型性能,这一领域称为半监督学习、弱监督学习

监督学习X强化学习:例如围棋中存在一部分人类专家的演示数据,利用这样的数据可以用监督学习模仿人类走棋,在AlphaGo最初版本中如此使用。这一领域称为模仿学习

强化学习X无监督学习:例如在强化学习的任务中缺少打分,算法自行对环境进行探索、发现功能性技能等等。

以上所述的机器学习子领域,其实都属于归纳学习,即从样本中归纳规律。由于广泛的适用性,归纳学习成为“默认的机器学习”。然而机器学习中实际还有另一类,演绎学习,通过推理出新的知识进行学习。这一方向由于数据分析大行其道以往不受重视,但近年随着符号AI的复兴,也正在成长。

3、机器学习的模型分类

早期机器学习研究,由不同的启发思想产生了不同的模型,包含:

最近邻模型

决策树模型

贝叶斯模型

线性模型

多层神经网络模型

等等,早期的研究多集中在数据量较小、语意层面较高的数据,例如用户购买商品的数据,一个商品ID对应了一个商品。而对语意层面较低的数据,例如图像数据,用每一个像素的灰度值表征,识别图像中的人脸需要建立灰度值到人名的联系,跨度巨大;语音数据,用波形表征,识别一个词需要建立一连串的声波强度到词语的联系,跨度巨大,因此取得的性能有限,且往往需要依赖人工构造的高层特征,例如人脸图像的灰度直方图投影等。

2012年,某种结构的多层神经网络的模型,结合大量的数据,在语音识别、图像识别上取得性能突破,引起了广泛关注,随后越来越多层的神经网络模型,在海量图像、语音数据上体现的优势愈加显著。为区别传统的模型,使用这一类深层神经网络模型被称为深度学习。

其特点在于,不同于特征工程+传统模型,深度模型从低层语意数据直接学习上层任务,即所谓的“端到端”学习,其中自动包含了对数据的表征学习。反过来,包含表征学习的模型,通常也需要进行多层次的处理,也都可称为深度学习。除了深度神经网络外,也有深度森林等非神经网络模型。

机器学习的任务与模型是可以组合的,即有非深度/深度监督学习、非深度/深度强化学习、非深度/深度无监督学习,等等。

以上就是小编为大家整理的“机器学习、深度学习和强化学习的关系和区别”一文,更多相关信息尽在开课吧广场人工智能资讯频道。

免责声明:本站所提供的内容均来源于网友提供或网络搜集,由本站编辑整理,仅供个人研究、交流学习使用。如涉及版权问题,请联系本站管理员予以更改或删除。
有用
分享
全部评论快来秀出你的观点
登录 后可发表观点…
发表
暂无评论,快来抢沙发!
AI项目实战精讲