现在的位置: 首页资讯>正文

独立NPU的强大运算能力,让HiKey 970实现高速计算

2018年04月03日 作者: 暂无评论 2,983+ 0

自去年华为发布麒麟970集成NPU、苹果发布A11 Bionic神经引擎后,终端AI化逐渐成为行业发展的潮流。而不同于苹果推出封闭的AI机器学习框架Core ML,华为将AI应用开发的能力开放给了众多开发者,以便开发者能实现更多的AI终端应用场景。这对促进AI应用的尽快落地至关重要。

日前,在香港Linaro开发者大会上,华为正式发布开源人工智能开发平台HiKey 970,向广大开发者提供AI应用开发的硬件支持。据悉,HiKey 970不只是开源硬件中的性能强者,还得到华为HiAI平台的支持,可用于深度学习算法、智能机器人、无人驾驶和智慧城市等多个领域,有望带动端侧人工智能迎来全新的发展局面。此外,HiKey 970开发板将于4月中旬面向开发者公开发售。

独立NPU的强大运算能力,让HiKey 970实现高速计算

AI芯片的应用方案主要分为云侧和端侧两类,相比云侧,端侧在隐私保护、通信带宽需求、实时性/低延时、功耗以及体验等众多方面部署人工智能更有优势,因而端侧人工智能已经成为AI产业应用的大趋势。

而端侧的AI应用,需要芯片在计算技术以及算力上实现突破,作为业界首颗集成NPU的麒麟970正具备这样的条件。麒麟970通过加入一个独立的NPU来处理AI运算,同时支持基于NPU的神经网络计算硬件加速,为开发者们提供了强大的AI算力,其运算效率远远超过CPU和GPU。 

资料显示,在处理相同的AI运算时,NPU的性能是 CPU 的 25 倍,GPU 的 6.25 倍(25/4),能效比上,NPU 更是达到了 CPU 的 50 倍,GPU 的 6.25 倍(50/8)。另外,在测试中发现,麒麟 970 的 NPU 每分钟可以识别出 2005 张照片,而不使用 NPU 的话则每分钟只能识别 97 张,明显看出独立NPU的算力优势巨大。

"正是基于NPU的强大运算能力,HiKey 970开发板的高效运算集中在NPU中。"华为无线终端芯片产品市场总监周晨表示,"当我们把芯片算力做到位之后,需要有开发者在平台上把AI能力变成用户体验,所以开发者对我们来说格外重要。同时这也是开发者基于麒麟 970在华为旗舰手机之外的创新尝试。"

除了独立的NPU处理单元带来强大的AI运算力之外,HiKey 970开发板在API和系统的集成上也更全面。据了解,HiKey 970开发板外围部分拥有支持4K高清的HDMI 2.0a接口,2个USB3.0接口,2个USB Type-C接口,1个千兆网口,支持CAN V2.0B协议,可以运行AOSP、Ubuntu、Debian等系统;同时还兼容于96Boards CE的标准,在计算机视觉、高性能计算开发、Android标准化程序开发测试等领域可以带来广泛的应用。

HiAI加持,离线模式运算亦高效

作为业界首款开源人工智能开发板--HiKey 970在强劲性能基础上,还有一大杀手锏,就是华为HiAI平台的加持。

HiAI移动计算平台有五大优势:
1. 多核异构架构,最大化发挥CPU/GPU/ISP/DSP/NPU的功能;
2. 支持离线模式,更适合端侧AI性能的发挥;
3. 支持更丰富算子和快速迭代,将在后续版本中支持算子定制;
4. 支持丰富的前端主流Framework以及上层功能业务API;
5. 支持HiKey 970开发板,降低开发成本。

对AI应用的开发者来说,最为重要的不外乎开发成本、受益和IP保护。为此,华为推出了HiAI移动计算平台并面向开发者进行开放,让第三方应用开发者能够基于HiAI移动计算架构进行APP开发,降低开发成本。同时,华为在IP保护以及加密算法上可以确保对开发模型进行加密保护。

此外,HiAI平台采用多核异构的架构计算可最大化发挥CPU/GPU/ISP/DSP/NPU的功能,其减速功能和能效比大幅优于CPU和GPU,且支持丰富的前端主流Framework、提供丰富的上层功能业务API,通过异构资源灵活调度,来满足开发者加速神经网络模型计算和算子计算。

更重要的是,HiAI离线模式能够有效提高计算效率,同时也更适合HiKey 970端侧AI性能的发挥。离线模型计算时会从文件中加载离线模型,计算时每一次推理只需要把用户数据从DDR到NPU导入导出一次就可以运行,这是一种非常高效的模式。

高校合作已启动,一波AI应用正在路上

在传统手机芯片上,麒麟970创新采用独立的NPU处理单元,让手机的AI性能更强大;如今,华为率先发布首款人工智能开发板--HiKey 970,并在HiAI、SDK等加持下,将人工智能的开发应用瞄向更广的范畴。可以预见,未来将会有更多AI端侧的应用出现,AI时代也随之到来。

谈及HiKey 970的具体规划,周晨透露,HiKey 970是华为发布的第三代开源开发板,目前已经和不少高等院校展开合作,进行更深层的AI应用研发。接下来,通过提供HiKey 970开发板的方式,一方面可以让开发者能够感受到麒麟970的人工智能实力,为华为和相关的开发者提供更多的应用方向;另一方面,借助更多开发者的投入开发,也为芯片升级提供了更多思路和指引方向,从而为更好地满足开发者的需求,为消费者带来更好的体验。

同时,华为也计划推出耀星计划,通过人才培养支持开发创新,加速AI应用的开发人才招募,为AI项目的落地以及推广覆盖做更多准备。

周晨表示,虽然现在的AI应用还没有大范围普及在终端上,但实际上已经有很多合作伙伴在共同努力,很快就会有一大波基于AI的应用和体验出现在手机上,让大家感受到AI应用不仅限于原有领域,还可以覆盖更多领域并带来更多新的体验和能力的提升。相信不久之后会有一波波AI创新和端侧应用的开发涌现,大家不妨拭目以待。

原文地址: https://www.eeboard.com/news/hikey970/

搜索爱板网加关注,每日最新的开发板、智能硬件、开源硬件、活动等信息可以让你一手全掌握。推荐关注!

【微信扫描下图可直接关注】

发表评论

相关文章

迷你索菲娅机器人首次亮相,利用人工智能教孩子编程

据VentureBeat报道,超逼真的机器人索菲娅(Sophia)曾在许多场合露面,引发巨大轰动。如今,索菲娅的开发公司Hanson Robotics推出了迷你版索菲亚,她能帮助孩子们学习编程。 迷你索菲娅利用人...

人工智能权衡:准确性还是稳健性?

东京 - 任何准备根据其准确性选择AI模型的人都可能想再考虑一下。根据IBM Research的研究,一个关键问题是AI模型对敌对攻击的抵抗力。与其他研究机构合作的IBM研究人员正在发表两篇关于AI漏...

AI和工业4.0之间,差距不是那一星半点?

如今,人工智能在工业领域有着蓬勃发展趋势,因为自动化以及优化仍是数字革命的主要焦点。在本文中,我们将回顾近几年在AI社区中那些令人兴奋的最先进的计算机视觉技术,这些技术被认为是工...

一边享用便利,一边恐惧风险:AI有多接近你,你又有多害怕AI

从1958年美国原子能委员会提出在建筑中使用核爆的计划,再到谷歌眼镜,历史上有不少昙花一现的项目和技术。不过,人工智能(AI)显然不在此列,因为它正在不断刷新着存在感。  

人工智能都能伪造指纹了,生物识别还安全吗

“人工智能技术能够将海量的指纹数据作为‘原材料’,学习到他们的结构特征和细节信息,并且根据一定的规则进行重组,生成仿真度极高的伪造数据。”人工智能行业资深人士孙立斌告诉我们。