现在的位置: 首页资讯>正文
详悉AI 实践者需要掌握的10大深度学习方法
2017年11月21日 作者: 暂无评论 193+ 0

本文总结了10个强大的深度学习方法,包括反向传播、随机梯度下降、学习率衰减、Dropout、最大池化、批量归一化、长短时记忆、Skip-gram、连续词袋、迁移学习等,这是AI工程师可以应用于他们的机器学习问题的。

过去10年,人们对机器学习的兴趣激增。几乎每天,你都可以在各种各样的计算机科学课程、行业会议、华尔街日报等等看到有关机器学习的讨论。在所有关于机器学习的讨论中,许多人把机器学习能做的事情和他们希望机器学习做的事情混为一谈。从根本上讲,机器学习是使用算法从原始数据中提取信息,并在某种类型的模型中表示这些信息。我们使用这个模型来推断还没有建模的其他数据。

神经网络是机器学习的一种模型,它们至少有50年历史了。神经网络的基本单元是节点(node),基本上是受哺乳动物大脑中的生物神经元启发。神经元之间的连接也以生物的大脑为模型,这些连接随着时间的推移而发展的方式是为“训练”。

在20世纪80年代中期和90年代初期,许多重要的架构进步都是在神经网络进行的。然而,为了得到好的结果需要大量时间和数据,这阻碍了神经网络的采用,因而人们的兴趣也减少了。在21世纪初,计算能力呈指数级增长,计算技术出现了“寒武纪大爆发”。在这个10年的爆炸式的计算增长中,深度学习成为这个领域的重要的竞争者,赢得了许多重要的机器学习竞赛。直到2017年,这种兴趣也还没有冷却下来;今天,我们看到一说机器学习,就不得不提深度学习。

作者本人也注册了Udacity的“Deep Learning”课程,这门课很好地介绍了深度学习的动机,以及从TensorFlow的复杂和/或大规模的数据集中学习的智能系统的设计。在课程项目中,我使用并开发了用于图像识别的卷积神经网络,用于自然语言处理的嵌入式神经网络,以及使用循环神经网络/长短期记忆的字符级文本生成。

本文中,作者总结了10个强大的深度学习方法,这是AI工程师可以应用于他们的机器学习问题的。首先,下面这张图直观地说明了人工智能、机器学习和深度学习三者之间的关系。AI

人工智能的领域很广泛,深度学习是机器学习领域的一个子集,机器学习又是人工智能的一个子领域。将深度学习网络与“经典的”前馈式多层网络区分开来的因素如下:

  • 比以前的网络有更多的神经元
  • 更复杂的连接层的方法
  • 用于训练网络的计算机能力的“寒武纪大爆炸”
  • 自动特征提取

这里说的“更多的神经元”时,是指神经元的数量在逐年增加,以表达更复杂的模型。层(layers)也从多层网络中的每一层都完全连接,到在卷积神经网络中层之间连接局部的神经元,再到在循环神经网络中与同一神经元的循环连接( recurrent connections)。

深度学习可以被定义为具有大量参数和层的神经网络,包括以下四种基本网络结构:

  • 无监督预训练网络
  • 卷积神经网络
  • 循环神经网络
  • 递归神经网络

在本文中,主要介绍后三种架构。基本上,卷积神经网络(CNN)是一个标准的神经网络,通过共享的权重在空间中扩展。CNN设计用于通过内部的卷积来识别图像,它可以看到图像中待识别的物体的边缘。循环神经网络(RNN)被设计用于识别序列,例如语音信号或文本。它的内部有循环,这意味着网络上有短的记忆。递归神经网络更像是一个层级网络,在这个网络中,输入必须以一种树的方式进行分层处理。下面的10种方法可以应用于所有这些架构。

  

文章分页: 1 2 3

相关文章

谷歌正式宣布 “AI系统AutoML已经完全脱离人类的控制 ”
145910s6r4jn2hrs8zj8u6

谷歌公司近日正式宣布,他们研发的机器人(AI)系统AutoML已经在完全脱离人类控制的情况下自行发明和制造了新的人工智能(AI)系统(人工智能的孩子)。

谷歌工程师扬言5年内用AI技术使人机对话成为现实
Hadar Shemtov

赛姆托也进一步表示,人类将能够在5年内与机器进行流利的对话,但对话质量不会像人与人交谈那样精准。 虽然有很多利用语音识别技术的语音助手产品,但是大多数语音助手还不能够清晰识别出人...

建兴发布新款EPX系列企业级SSD:机器学习降低延迟
EPX M.2 SSD

建兴(Lite-On)今天发布了新款EPX系列企业级SSD,居然也支持机器学习,可以智能改善性能。

少有的高调?苹果AI总监解密苹果如何利用机器学习研发自动驾驶汽车系统
ai

在NIPS大会上,苹果公司的AI总监 Salakhutdinov 发表了演讲,更加深入地对苹果如何利用机器学习研发自动驾驶汽车系统以及取得的成果进行了阐述。对于一向走保密风格的苹果来说,这又是一次少...

华为、小米都抢着推,AI手机到底是创新还是噱头?
AIPHONE

毋庸置疑,人工智能(AI)是近两年手机行业的热门名词。如果说全面屏提升的是一款手机的外在,那么AI更多的是加强它的内涵。

给我留言

您必须 [ 登录 ] 才能发表留言!