现在的位置: 首页资讯>正文
从高通处理器来看到底什么是 AI Engine?
2018年03月19日 作者: 暂无评论 711+ 0

想象一下:

清晨有智能语音助手轻声唤醒你

工作时,人工智能助你高效办公

约会时,人工智能为你“出谋划策”

当手机里加持了人工智能

未来充满无限可能

最近几年,人工智能应用日益普及,个人语音助手一类的人工智能应用,为我们带来了令人惊叹的体验。为了让你更好地用上人工智能,我们在今年 MWC 上推出了Qualcomm人工智能引擎 AI Engine。 AI Engine

然而……到底什么是 AI Engine?简单说,AI Engine 就是在骁龙移动平台上加速终端侧人工智能用户体验实现的硬件与软件组件的集合。

硬件:多核异构计算核心

高效运行终端侧人工智能需要多核异构计算。因为不同人工智能应用场景的功耗和对运算资源的需求各不相同,仅靠单颗人工智能内核无法以最佳方式解决,所以需要可编程的异构计算。

举个例子,Hexagon 向量处理器、Adreno GPU、Kryo CPU就像三个各有所长的乐手,不同的曲目需要不同类型的乐手,有的擅长高音,有的擅长低音,只有根据曲目合理乐手搭配,方能呈上一场精彩合唱。 AI Engine

Qualcomm 骁龙移动平台充分利用了多核异构计算核心 Hexagon 向量处理器、Adreno GPU 视觉处理子系统和 Kryo CPU 的可编程架构。这为开发者提供了更广泛的选择,面向不同类型的功能、基于不同类型的数据、在不同的计算精度水平上,可支持大量卷积或循环神经网络。 AI Engine

HEXAGON向量处理器

Qualcomm Hexagon 向量处理器是向量处理器子系统中的加速引擎,支持处理8位定点运算。相较于 GPU 或 CPU,涉及向量数学的应用工作负载通常更适合在骁龙的向量处理器上运行。

ADRENO GPU

具有庞大的并行数据集、需要大量的向量数学,尤其是对浮点精度有要求的应用工作负载,都非常适宜在骁龙的 Adreno GPU 上运行。通过最新的 Adreno GPU 对 16 位浮点精度的人工智能工作负载进行的优化,可提供更佳的能效表现,使其成为如计算机视觉物体分类、视频风格转换、场景检测和游戏等人工智能应用的理想选择。

KRYO CPU

神经网络模型通常以 32 位浮点(高精度)在云端完成训练。它也可以在终端侧的 CPU 上实现类似运行,但其代价太大,需要终端在性能和功耗上作出一些牺牲。骁龙845 中在 Kryo CPU 上优化了对 8 位定点精度的支持,帮助支持包含较大内核、相对较少向量处理、非规则性数据结构和/或复杂流程控制的应用。

总的来说,在骁龙平台上加速人工智能最高效的解决方案是将人工智能工作负载分配到 CPU、GPU 和向量处理器上。这为开发者提供了实现人工智能用户体验的多种灵活选择。

软件和工具

AI Engine 的第二个组成部分是软件和工具。在处理 AI 应用时,软件和工具无疑更加重要。硬件是一个加速的平台,而在软件层面开发者能够实现大量的创新,打造最新的 AI 应用。

还是用乐手类比,如果说硬件是乐手,那么软件就是指挥,他能让乐队成员发挥最佳表现,呈现最佳演出效果。 AI Engine

Qualcomm 人工智能引擎 AI Engine 的核心软件构架包括:骁龙神经处理SDK、随Google Android Oreo 发布的Android NN API以及Hexagon Neutral Network(NN)库。

通过在骁龙终端上优化已训练好的神经网络运行的性能,骁龙神经处理引擎可帮助开发者节省时间和工作量,Hexagon NN库让开发者可以直接将人工智能算法在Hexagon向量处理器上运行。为基础性的机器学习模块提供了优化的部署,并显著加速诸如卷积、池化和激活等人工智能运行。

移动平台支持

目前,骁龙845、骁龙835、骁龙821、骁龙820 均已支持 Qualcomm人工智能引擎 AI Engine,其中骁龙845将支持最顶尖的终端侧人工智能。

而作为骁龙 600 系列中迄今为止最强的产品,骁龙660移动平台同样支持 Qualcomm人工智能引擎 AI Engine,它首次将配备 HVX 的 Qualcomm Hexagon DSP 运用至骁龙 600 系列之中,支持性能的飞跃式提升。除了带来卓越的AI 体验,骁龙660移动平台还支持先进的拍摄技术、增强的游戏体验和持久的电池续航时间。

全新的骁龙700系列平台也将支持 Qualcomm人工智能引擎 AI Engine,骁龙700系列移动平台预计将于今年上半年向客户商用出样,让我们一起期待吧。

搜索爱板网加关注,每日最新的开发板、智能硬件、开源硬件、活动等信息可以让你一手全掌握。推荐关注!

【微信扫描下图可直接关注】1-aibanwang127

相关文章

全球首款超小型嵌入式人工智能处理卡——针对边缘计算的UP AI Core评测

云端的不可控性以及不易用性已经成为目前移动电子设备拓展人工智能服务的掣肘。针对便携式、小型化的电子设备,实现边缘计算的人工智能芯片市场越来越大,比如有服务型机器人中集成的GPU、手...

彭博社:高通准备退出服务器芯片业务

彭博社:高通准备退出服务器芯片业务 高通正在研究关闭还是出售该部门,这个部门致力于将ARM Holdings Plc的技术引入这个处于服务器核心地位的芯片市场

人和人吵架常见, 但你见过 AI 和 AI 吵架吗?

最后我们认为如果辩论或类似的方法有效,那么即使以后人类无法直接监督 AI 系统,它也会使未来的人工智能系统更安全,因为这种方法可以使 AI 系统与人类的目标和价值取向保持一致。 即使对于...

谷歌I/O大会前瞻:除了Android P和AI还有这些惊喜!

至于Android Auto,这款软件也已经存在了几年,但它最近增加了对Pixel和Nexus设备的无线支持。今年1月份,谷歌宣布它的Google Assistant软件将很快为Android Auto提供语音功能,因此I/O上很...

用ARM架构开发服务器芯片失败?传高通计划放弃服务器芯片业务!

高通去年开始出售Centriq 2400服务器芯片。该公司当时表示,这款由三星代工的芯片在功耗和成本方面优于英特尔铂金版至强8180处理器。在去年11月公开发布该芯片的时候,微软还上台表达了对这...

给我留言

您必须 [ 登录 ] 才能发表留言!