现在的位置: 首页资讯>正文

从高通处理器来看到底什么是 AI Engine?

2018年03月19日 作者: 暂无评论 2,917+ 0

想象一下:

清晨有智能语音助手轻声唤醒你

工作时,人工智能助你高效办公

约会时,人工智能为你“出谋划策”

当手机里加持了人工智能

未来充满无限可能

最近几年,人工智能应用日益普及,个人语音助手一类的人工智能应用,为我们带来了令人惊叹的体验。为了让你更好地用上人工智能,我们在今年 MWC 上推出了Qualcomm人工智能引擎 AI Engine。 AI Engine

然而……到底什么是 AI Engine?简单说,AI Engine 就是在骁龙移动平台上加速终端侧人工智能用户体验实现的硬件与软件组件的集合。

硬件:多核异构计算核心

高效运行终端侧人工智能需要多核异构计算。因为不同人工智能应用场景的功耗和对运算资源的需求各不相同,仅靠单颗人工智能内核无法以最佳方式解决,所以需要可编程的异构计算。

举个例子,Hexagon 向量处理器、Adreno GPU、Kryo CPU就像三个各有所长的乐手,不同的曲目需要不同类型的乐手,有的擅长高音,有的擅长低音,只有根据曲目合理乐手搭配,方能呈上一场精彩合唱。 AI Engine

Qualcomm 骁龙移动平台充分利用了多核异构计算核心 Hexagon 向量处理器、Adreno GPU 视觉处理子系统和 Kryo CPU 的可编程架构。这为开发者提供了更广泛的选择,面向不同类型的功能、基于不同类型的数据、在不同的计算精度水平上,可支持大量卷积或循环神经网络。 AI Engine

HEXAGON向量处理器

Qualcomm Hexagon 向量处理器是向量处理器子系统中的加速引擎,支持处理8位定点运算。相较于 GPU 或 CPU,涉及向量数学的应用工作负载通常更适合在骁龙的向量处理器上运行。

ADRENO GPU

具有庞大的并行数据集、需要大量的向量数学,尤其是对浮点精度有要求的应用工作负载,都非常适宜在骁龙的 Adreno GPU 上运行。通过最新的 Adreno GPU 对 16 位浮点精度的人工智能工作负载进行的优化,可提供更佳的能效表现,使其成为如计算机视觉物体分类、视频风格转换、场景检测和游戏等人工智能应用的理想选择。

KRYO CPU

神经网络模型通常以 32 位浮点(高精度)在云端完成训练。它也可以在终端侧的 CPU 上实现类似运行,但其代价太大,需要终端在性能和功耗上作出一些牺牲。骁龙845 中在 Kryo CPU 上优化了对 8 位定点精度的支持,帮助支持包含较大内核、相对较少向量处理、非规则性数据结构和/或复杂流程控制的应用。

总的来说,在骁龙平台上加速人工智能最高效的解决方案是将人工智能工作负载分配到 CPU、GPU 和向量处理器上。这为开发者提供了实现人工智能用户体验的多种灵活选择。

软件和工具

AI Engine 的第二个组成部分是软件和工具。在处理 AI 应用时,软件和工具无疑更加重要。硬件是一个加速的平台,而在软件层面开发者能够实现大量的创新,打造最新的 AI 应用。

还是用乐手类比,如果说硬件是乐手,那么软件就是指挥,他能让乐队成员发挥最佳表现,呈现最佳演出效果。 AI Engine

Qualcomm 人工智能引擎 AI Engine 的核心软件构架包括:骁龙神经处理SDK、随Google Android Oreo 发布的Android NN API以及Hexagon Neutral Network(NN)库。

通过在骁龙终端上优化已训练好的神经网络运行的性能,骁龙神经处理引擎可帮助开发者节省时间和工作量,Hexagon NN库让开发者可以直接将人工智能算法在Hexagon向量处理器上运行。为基础性的机器学习模块提供了优化的部署,并显著加速诸如卷积、池化和激活等人工智能运行。

移动平台支持

目前,骁龙845、骁龙835、骁龙821、骁龙820 均已支持 Qualcomm人工智能引擎 AI Engine,其中骁龙845将支持最顶尖的终端侧人工智能

而作为骁龙 600 系列中迄今为止最强的产品,骁龙660移动平台同样支持 Qualcomm人工智能引擎 AI Engine,它首次将配备 HVX 的 Qualcomm Hexagon DSP 运用至骁龙 600 系列之中,支持性能的飞跃式提升。除了带来卓越的AI 体验,骁龙660移动平台还支持先进的拍摄技术、增强的游戏体验和持久的电池续航时间。

全新的骁龙700系列平台也将支持 Qualcomm人工智能引擎 AI Engine,骁龙700系列移动平台预计将于今年上半年向客户商用出样,让我们一起期待吧。

搜索爱板网加关注,每日最新的开发板、智能硬件、开源硬件、活动等信息可以让你一手全掌握。推荐关注!

【微信扫描下图可直接关注】1-aibanwang127

发表评论

相关文章

还以为人工智能打幌子忽悠人忽悠人?Mate 20其实已经用上AI

1950 年,为了分辨机器是拥有自创的思想,还是精心设计的程序,英国数学家、逻辑学家 Alan Turing 「煞费苦心」地提出了著名的「图灵测试」;而半个世纪以后的今天,生活和工作被人工智能概...

一文带你读懂人工智能结合边缘计算格局

近日,华为和比特大陆纷纷发布了针对边缘计算的新芯片产品。华为的Ascend系列采用达芬奇架构,其中Ascend 310功耗8W算力8TOPS正是针对边缘计算市场。而之后比特大陆发布的BM1682和BM1880也是...

AI将如何改变IoT架构

物联网副总裁卢托斯坦斯基(Lou Lutostanski)表示,Avnet未来主义者表示,人工智能(AI)和物联网(IoT)将比工业革命和数字革命加起来更深刻地改变商业和社会,我们现在开始看到这个世界可能如何...

还原海底“鲸之歌”——谷歌AI

有趣的是,但回顾起来并不奇怪,音频没有这样分析;相反的是,音频被转换成图像,它可以寻找模式。这些声谱图记录了声音在一定频率范围内随时间的强度,可以用于各种有趣的事情。碰巧的是,...

5G让人工智能与世界沟通,曲高和寡的人工智能缺点啥?

AI人工智能被视为新一轮技术浪潮,并随着计算机技术和移动互联网的发展逐渐成为科技领域和经济领域的新风口。然而你可知道,其实早在1956年人工智能概念就已经被正式确立,但至今仍停留在美...