查看: 1853|回复: 2

[征集/转载] 加速深度学习推理的Intel Movidius...

[复制链接]
  • TA的每日心情
    擦汗
    2020-4-8 12:00
  • 签到天数: 381 天

    连续签到: 1 天

    [LV.9]以坛为家II

    发表于 2018-8-20 10:56:17 | 显示全部楼层 |阅读模式
    分享到:
    背景
      刚过去的2017年,人工智能毫无疑问的成为了最火爆的前沿领域,可以断定,2018年以至往后的至少5年内,这种势头必将持续,并且节节攀高。什么是人工智能?百度百科做了很多并且很专业的解释,但太繁复了,说得简单通俗点,人工智能就是要让机器学会自主思考。
      要做到这一步,其核心就是建立在大数据上的深度学习,大数据基本是依靠底蕴,底蕴越强的企业则越能提供机器学习的大而全、精而细的优质范本,诸如谷歌,Facebook,阿里巴巴,腾讯等,而深度学习则依赖算法,这就是各位工程师发挥实力的地方。打个通俗点的比方,你可以把人工智能看作是小孩养成记,决定小孩成长的高度,智商是一个因素,给小孩提供的成长环境(包括教学、资源等)则是另一个重要因素,对应过来,智商就如算法,成长环境等于大数据,你能给机器提供多优秀的算法,多丰富优质的样本案例数据,就基本决定了机器在人工智能上达到的高度。
      在和工程师交流的过程中,不少人都表示对深度学习感兴趣,疑问的是具体该怎么做,如何入门?目前深度学习框架比较多,但主流的无外乎那么几个,尤以Caffe以及Tensorflow为主,前者胜在图像、视频上的处理,作者是贾扬清,目前就职于Facebook,后者应用范围广,在语音、图片,自然语言处理上都可以应用,这是谷歌基于DistBelief进行研发的第二代人工智能学习系统。
      难能可贵的是,Caffe以及Tensorflow这两个深度学习框架都支持主流的计算机编程语言C/C++以及Python,所以应对众多的软件从业者,在校学生,都可以且都能比较轻松的走进深度学习的大门,而你需要的,只是一个在你优化你深度学习模型时可以加速深度学习推理的辅助工具,这就是今天爱板网要给大家推荐的全球首款基于USB接口、便携小巧、且能加速深度学习推理的学习、开发、调试验证工具——由Intel推出的Movidius神经计算棒(Neural Compute Stick,为了方便,下文将简称NCS)。
      不同于传统观点认为的那样,“深度学习就一定需要高性能的GPU、TPU、FPGA等硬件平台,一定需要高速的网络带宽”,NCS正在打破这种局限,为那些想入门人工智能领域的学生、从业者提供了一种边缘计算的深度学习可行性,而你达成这一切所需要的仅仅是一个支持Linux系统的便携式硬件平台,如市面上的树莓派、Up Board等,再加上一根Movidius神经计算棒即可,当然,要是有摄像头等外设那无疑是锦上添花。铺垫结束,是时候进入正题,来看看Intel的Movidius神经计算棒到底是个怎样的玩意。

      Intel Movidius神经计算棒

      NCS透入了一股浓浓的Intel风,蓝色主色调,此棒子是在贸泽电子购买的,79美金不含税的价格,并且从目前来看,NCS并没有区分不同国家版本,都是英文版本。
      包装盒很简洁,内部配件也简单,就只有一根NCS以及一张简单的上手使用说明。
      NCS的做工自然不用说,这么个小玩意售价79美金,再怎么说质量还是有保障的,全铝合金外壳,精致小巧,尺寸为72.5mm X 27mm X 14mm,差不多两根手指大小,机体挺有分量,外观设计也花了一番心思,原本想拆开看看内部电路,无奈试了好几次都没破开这个结构,暂时作罢,留给以后再说。
      正面,Movidius的品牌很显眼,这是Intel16年收购的一家从事机器视觉芯片的公司,其Myraid系列VPU以低功耗高性能著称(下文详说),在大疆无人机,谷歌Clips相机上均被采用。
      背面
      侧边
      取下NCS的USB“帽子”,自然的看到了支持USB 3.0 Type-A接口,按照Intel的说法,直接能插在电脑上即可使用,或许你再也找不出比这更方便的方式进行深度学习开发了。
      虽然暂时无法拆开NCS一探内部情况,但是从目前的信息来说,我们至少知道NCS可以加速深度学习推理主要依赖于内部的视觉处理单元(Vision Processing Unit) Myriad 2。这里有必要提一下,深度学习的细分领域非常多,而NCS主要的特点是针对深度学习中的图像和视频的处理。
      可以简单的看下Myriad 2 SoC内部架构,基于低功耗的28nm工艺制程,内部集成了12个128-Bit SHAVE Vector处理器以及众多硬件加速器、图像/视觉信号处理器,两个32位的RISC处理器,前者用于机器视觉,后者对处理视频和图像非常重要,Myriad 2 SoC支持的一些接口如下:
      12 Lanes MIPI,每个Lane支持1.5Gbps数据带宽并且可以配置为CSI-2或者DSI
      支持I2C、SPI、I2S、PWM、USB3.0(集成PHY)、SDIO、Ethernet(1Gbit)
      Myriad 2具体的性能指标可以以48FPS的帧率同时处理来自12个1300万像素摄像头的数据,换句话说,以60FPS拍摄4K视频是毫无压力的,当然,这是目前很多GPU也都能做到的事,而Myriad 2的优势在于在实现这些功能的前提下保持较低的功耗,相比能够提供同等效果的GPU,Myriad 2的功耗低了最少10倍。所以,如大家所见到的一样,NCS只需要通过电脑上的USB接口供电即可。对于目前市面上火爆的需要有较强图像/视频处理能力且需要电池供电的应用,如服务型机器人、无人机、AR/VR等设备,Myriad 2有着非常大的优势。

      上手使用

      都说耳听为虚,眼见为实,在基本了解这根神经计算棒的硬件组成后,不妨实际来看看这玩意到底如何使用?易用性如何?实际效果又是如何?

      硬件平台搭建:
      1根神经计算棒(Intel Movidius Neural Compute Stick)
      1个搭载ubuntu16.04系统版本的硬件平台(官方特意强调了树莓派3B,毕竟这是全球使用最广的开源单板计算机,同时也是最具性价比的硬件平台,重要的是让人人都玩得起)
      不过,事与愿违,原本笔者是想用树莓派3B配合NCS使用的,无奈手上仅有的一块树莓派3B借出去了,所以暂时先用研扬科技的UP Squared Board代替,说实话,如果不考虑资金预算的话,Up Squared Board+NCS的组合更亮眼,毕竟UP Squared Board搭载USB3.0,与NCS上的USB3.0接口搭配使用更合适,能实现更高的传输速率(USB3.0 5Gbps VS USB2.0高速480Mbps),在模型推理数据很大的情况下,优势显而易见。


    THE END




    评分

    参与人数 1与非币 +50 收起 理由
    satoll + 50 AI征集奖励

    查看全部评分

    回复

    使用道具 举报

  • TA的每日心情

    2024-4-8 15:13
  • 签到天数: 42 天

    连续签到: 1 天

    [LV.5]常住居民I

    发表于 2018-8-20 13:51:01 | 显示全部楼层
    外链图片无法显示,请修改
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    擦汗
    2020-4-8 12:00
  • 签到天数: 381 天

    连续签到: 1 天

    [LV.9]以坛为家II

     楼主| 发表于 2018-8-21 11:16:20 | 显示全部楼层
    satoll 发表于 2018-8-20 13:51
    外链图片无法显示,请修改

    已修改,请查看
    回复 支持 反对

    使用道具 举报

    您需要登录后才可以回帖 注册/登录

    本版积分规则

    关闭

    站长推荐上一条 /2 下一条

    手机版|小黑屋|与非网

    GMT+8, 2024-4-19 12:01 , Processed in 0.142802 second(s), 23 queries , MemCache On.

    ICP经营许可证 苏B2-20140176  苏ICP备14012660号-2   苏州灵动帧格网络科技有限公司 版权所有.

    苏公网安备 32059002001037号

    Powered by Discuz! X3.4

    Copyright © 2001-2020, Tencent Cloud.