现在的位置: 首页资讯>正文

从高通处理器来看到底什么是 AI Engine?

2018年03月19日 作者: 暂无评论 3,989+ 0

想象一下:

清晨有智能语音助手轻声唤醒你

工作时,人工智能助你高效办公

约会时,人工智能为你“出谋划策”

当手机里加持了人工智能

未来充满无限可能

最近几年,人工智能应用日益普及,个人语音助手一类的人工智能应用,为我们带来了令人惊叹的体验。为了让你更好地用上人工智能,我们在今年 MWC 上推出了Qualcomm人工智能引擎 AI Engine。 AI Engine

然而……到底什么是 AI Engine?简单说,AI Engine 就是在骁龙移动平台上加速终端侧人工智能用户体验实现的硬件与软件组件的集合。

硬件:多核异构计算核心

高效运行终端侧人工智能需要多核异构计算。因为不同人工智能应用场景的功耗和对运算资源的需求各不相同,仅靠单颗人工智能内核无法以最佳方式解决,所以需要可编程的异构计算。

举个例子,Hexagon 向量处理器、Adreno GPU、Kryo CPU就像三个各有所长的乐手,不同的曲目需要不同类型的乐手,有的擅长高音,有的擅长低音,只有根据曲目合理乐手搭配,方能呈上一场精彩合唱。 AI Engine

Qualcomm 骁龙移动平台充分利用了多核异构计算核心 Hexagon 向量处理器、Adreno GPU 视觉处理子系统和 Kryo CPU 的可编程架构。这为开发者提供了更广泛的选择,面向不同类型的功能、基于不同类型的数据、在不同的计算精度水平上,可支持大量卷积或循环神经网络。 AI Engine

HEXAGON向量处理器

Qualcomm Hexagon 向量处理器是向量处理器子系统中的加速引擎,支持处理8位定点运算。相较于 GPU 或 CPU,涉及向量数学的应用工作负载通常更适合在骁龙的向量处理器上运行。

ADRENO GPU

具有庞大的并行数据集、需要大量的向量数学,尤其是对浮点精度有要求的应用工作负载,都非常适宜在骁龙的 Adreno GPU 上运行。通过最新的 Adreno GPU 对 16 位浮点精度的人工智能工作负载进行的优化,可提供更佳的能效表现,使其成为如计算机视觉物体分类、视频风格转换、场景检测和游戏等人工智能应用的理想选择。

KRYO CPU

神经网络模型通常以 32 位浮点(高精度)在云端完成训练。它也可以在终端侧的 CPU 上实现类似运行,但其代价太大,需要终端在性能和功耗上作出一些牺牲。骁龙845 中在 Kryo CPU 上优化了对 8 位定点精度的支持,帮助支持包含较大内核、相对较少向量处理、非规则性数据结构和/或复杂流程控制的应用。

总的来说,在骁龙平台上加速人工智能最高效的解决方案是将人工智能工作负载分配到 CPU、GPU 和向量处理器上。这为开发者提供了实现人工智能用户体验的多种灵活选择。

软件和工具

AI Engine 的第二个组成部分是软件和工具。在处理 AI 应用时,软件和工具无疑更加重要。硬件是一个加速的平台,而在软件层面开发者能够实现大量的创新,打造最新的 AI 应用。

还是用乐手类比,如果说硬件是乐手,那么软件就是指挥,他能让乐队成员发挥最佳表现,呈现最佳演出效果。 AI Engine

Qualcomm 人工智能引擎 AI Engine 的核心软件构架包括:骁龙神经处理SDK、随Google Android Oreo 发布的Android NN API以及Hexagon Neutral Network(NN)库。

通过在骁龙终端上优化已训练好的神经网络运行的性能,骁龙神经处理引擎可帮助开发者节省时间和工作量,Hexagon NN库让开发者可以直接将人工智能算法在Hexagon向量处理器上运行。为基础性的机器学习模块提供了优化的部署,并显著加速诸如卷积、池化和激活等人工智能运行。

移动平台支持

目前,骁龙845、骁龙835、骁龙821、骁龙820 均已支持 Qualcomm人工智能引擎 AI Engine,其中骁龙845将支持最顶尖的终端侧人工智能

而作为骁龙 600 系列中迄今为止最强的产品,骁龙660移动平台同样支持 Qualcomm人工智能引擎 AI Engine,它首次将配备 HVX 的 Qualcomm Hexagon DSP 运用至骁龙 600 系列之中,支持性能的飞跃式提升。除了带来卓越的AI 体验,骁龙660移动平台还支持先进的拍摄技术、增强的游戏体验和持久的电池续航时间。

全新的骁龙700系列平台也将支持 Qualcomm人工智能引擎 AI Engine,骁龙700系列移动平台预计将于今年上半年向客户商用出样,让我们一起期待吧。

搜索爱板网加关注,每日最新的开发板、智能硬件、开源硬件、活动等信息可以让你一手全掌握。推荐关注!

【微信扫描下图可直接关注】1-aibanwang127

发表评论

相关文章

2019年5种大热技术下的精选开发板推荐

目前在电子行业,有哪些热门的领域,或者说哪些热门的技术领域?每个人对这个问题的看法应该都有所不同,很多工程师会以自己关注或者自己从事的领域来看待这件事,对我来说的话,我会以目前...

时隔五年 ARM再次向数据中心领域发起进攻

作为在智能终端领域呼风唤雨的角色,ARM的崛起在很大程度上构筑起了今日终端市场的繁荣。

英特尔/高通公司:5G调制解调器M.2模块展示

英特尔合作伙伴Fibocom宣布推出一款M.2模块,该模块采用英特尔XMM8160 5G调制解调器,用于CPE以及即将推出的个人电脑和笔记本电脑。在世界移动通信大会期间,我们在Fibocom展位上看到了这个M...

MWC 2019:5G战略深度剖析 高通携X55芯片来袭

手机厂商的背后,其实站着一位默默耕耘的英雄 —— 它就是高通。作为行业的先行者,高通发布的行业首款 5G 调制解调器(即基带)骁龙 X50 即将支持全球首批 5G 手机商用上市。而在这批 5G 手机...

UltraSoC扩展片上分析架构以应机器学习、人工智能和并行计算时代的要求

UltraSoC日前宣布其嵌入式分析架构实现了一次重大扩展,支持设计人员和创新者将强大的、由数据驱动的功能集成至他们的产品中。汽车、存储和高性能计算行业的开发人员现在可以在其产品中集成...