现在的位置: 首页资讯>正文
详悉AI 实践者需要掌握的10大深度学习方法
2017年11月21日 作者: 暂无评论 610+ 0

本文总结了10个强大的深度学习方法,包括反向传播、随机梯度下降、学习率衰减、Dropout、最大池化、批量归一化、长短时记忆、Skip-gram、连续词袋、迁移学习等,这是AI工程师可以应用于他们的机器学习问题的。

过去10年,人们对机器学习的兴趣激增。几乎每天,你都可以在各种各样的计算机科学课程、行业会议、华尔街日报等等看到有关机器学习的讨论。在所有关于机器学习的讨论中,许多人把机器学习能做的事情和他们希望机器学习做的事情混为一谈。从根本上讲,机器学习是使用算法从原始数据中提取信息,并在某种类型的模型中表示这些信息。我们使用这个模型来推断还没有建模的其他数据。

神经网络是机器学习的一种模型,它们至少有50年历史了。神经网络的基本单元是节点(node),基本上是受哺乳动物大脑中的生物神经元启发。神经元之间的连接也以生物的大脑为模型,这些连接随着时间的推移而发展的方式是为“训练”。

在20世纪80年代中期和90年代初期,许多重要的架构进步都是在神经网络进行的。然而,为了得到好的结果需要大量时间和数据,这阻碍了神经网络的采用,因而人们的兴趣也减少了。在21世纪初,计算能力呈指数级增长,计算技术出现了“寒武纪大爆发”。在这个10年的爆炸式的计算增长中,深度学习成为这个领域的重要的竞争者,赢得了许多重要的机器学习竞赛。直到2017年,这种兴趣也还没有冷却下来;今天,我们看到一说机器学习,就不得不提深度学习。

作者本人也注册了Udacity的“Deep Learning”课程,这门课很好地介绍了深度学习的动机,以及从TensorFlow的复杂和/或大规模的数据集中学习的智能系统的设计。在课程项目中,我使用并开发了用于图像识别的卷积神经网络,用于自然语言处理的嵌入式神经网络,以及使用循环神经网络/长短期记忆的字符级文本生成。

本文中,作者总结了10个强大的深度学习方法,这是AI工程师可以应用于他们的机器学习问题的。首先,下面这张图直观地说明了人工智能、机器学习和深度学习三者之间的关系。AI

人工智能的领域很广泛,深度学习是机器学习领域的一个子集,机器学习又是人工智能的一个子领域。将深度学习网络与“经典的”前馈式多层网络区分开来的因素如下:

  • 比以前的网络有更多的神经元
  • 更复杂的连接层的方法
  • 用于训练网络的计算机能力的“寒武纪大爆炸”
  • 自动特征提取

这里说的“更多的神经元”时,是指神经元的数量在逐年增加,以表达更复杂的模型。层(layers)也从多层网络中的每一层都完全连接,到在卷积神经网络中层之间连接局部的神经元,再到在循环神经网络中与同一神经元的循环连接( recurrent connections)。

深度学习可以被定义为具有大量参数和层的神经网络,包括以下四种基本网络结构:

  • 无监督预训练网络
  • 卷积神经网络
  • 循环神经网络
  • 递归神经网络

在本文中,主要介绍后三种架构。基本上,卷积神经网络(CNN)是一个标准的神经网络,通过共享的权重在空间中扩展。CNN设计用于通过内部的卷积来识别图像,它可以看到图像中待识别的物体的边缘。循环神经网络(RNN)被设计用于识别序列,例如语音信号或文本。它的内部有循环,这意味着网络上有短的记忆。递归神经网络更像是一个层级网络,在这个网络中,输入必须以一种树的方式进行分层处理。下面的10种方法可以应用于所有这些架构。

文章分页: 1 2 3

相关文章

AI“虚拟活检”或是诊治脑肿瘤的未来希望

“如果我能在做手术之前知道这个肿瘤是什么就好了,如果能提前知道它会有什么样的突变就更好了,那我就能提前告诉他和他的家人说,‘这是你的诊断结果,这是病情预后,这是我们的治疗手段。’一...

全球首款基于开源架构RISC-V的低功耗边缘计算处理器——GAPUINO开发板评测

说到ARM架构,这是大家都能耳熟能详的;但是提到开源架构RISC-V,相信很多人都是懵逼的。诚然,最近几年RISC-V确实很火,网上也频频出现关于RISC-V的事件,比如全球首款基于RISC-V的商用SoC ...

首届“零一科技节”,看看都有哪些令人惊艳的黑科技!

首届“零一科技节”深圳开幕:寻找下一个超级物种 2018年7月5日,全国首个黑科技博览会——零一科技节亮相深圳,通过改造一幢老建筑,徒手搭建了一座只存在四天的未来之城,完美展现了对未来的超...

三星电子用AI技术解决8K内容不足问题

直接支持构建8K生态体系。三星电子将为6月27日和28在美国加利福尼亚West Hollywood由 InsightMedia举办的“QLED&Advanced Display Summit”提供赞助,在峰会上将举行关于8K生态体系的讨论。以...

【免费试用】开启人工智能DIY热潮——角蜂鸟AI视觉套件

活动说明: 人工智能发展到今年,事实一遍又一遍的证明今天我们所要面对的人工智能应该是一整个系统,如果仅仅依靠算法、硬件是行不通的,训练用的大数据支持是极为重要的,因此,当一些比...

给我留言

您必须 [ 登录 ] 才能发表留言!