现在的位置: 首页资讯>正文

小米也开源,MACE任你玩

2018年07月24日 作者: 暂无评论 527+ 0

6月28日,小米人工智能与云平台副总裁崔宝秋博士在开源中国开源世界高峰论坛上发表《小米 AI 时代的开源》演讲,并在会上宣布,开源小米自研的移动端深度学习框架 Mobile AI Compute Engine (MACE)。

地址:https://github.com/XiaoMi/mace

近年来,随着移动互联网的深入发展和IoT智能设备的普及,以及用户对智能性,低延迟和隐私保护的诉求变得越来越高,移动设备上的离线深度学习应用变得越来越普遍。

MACE 是专门为移动设备优化的深度学习模型预测框架,MACE 从设计之初,便针对移动设备的特点进行了专门的优化:

速度:对于放在移动端进行计算的模型,一般对整体的预测延迟有着非常高的要求。在框架底层,针对ARM CPU进行了NEON指令级优化,针对移动端GPU,实现了高效的OpenCL内核代码。针对高通DSP,集成了nnlib计算库进行HVX加速。同时在算法层面,采用Winograd算法对卷积进行加速。
功耗:移动端对功耗非常敏感,框架针对ARM处理器的big.LITTLE架构,提供了高性能,低功耗等多种组合配置。针对Adreno GPU,提供了不同的功耗性能选项,使得者能够对性能和功耗进行灵活的调整。
系统响应:对于GPU计算模式,框架底层对OpenCL内核自适应的进行分拆调度,保证GPU渲染任务能够更好的进行抢占调度,从而保证系统的流畅度。
初始化延迟:在实际项目中,初始化时间对用户体验至关重要,框架对此进行了针对性的优化。
内存占用:通过对模型的算子进行依赖分析,引入内存复用技术,大大减少了内存的占用。
模型保护:对于移动端模型,知识产权的保护往往非常重要,MACE支持将模型转换成C++代码,大大提高了逆向工程的难度。
此外,MACE 支持 TensorFlow 和 Caffe 模型,提供转换工具,可以将训练好的模型转换成专有的模型数据文件,同时还可以选择将模型转换成C++代码,支持生成动态库或者静态库,提高模型保密性。

目前MACE已经在小米手机上的多个应用场景得到了应用,其中包括相机的人像模式,场景识别,图像超分辨率,离线翻译(即将实现)等。

此外,随着MACE一起开源的还有 MACE Model Zoo 项目,目前包含物体识别,场景语义分割,图像风格化等多个公开模型。后续会增加更多模型。

上方是用MACE Model Zoo中的fast style transfer(快速风格迁移)模型在手机端生成的风格化图片。

此前小米曾参与多个国际重大的开源项目,比如Hadoop,HBase,Spark,TensorFlow等,同时,小米也积极参与自研、具有通用性的软件系统。过去几年,小米相继推出了Linden(分布式实时搜索系统),Open-Falcon(互联网企业级监控系统)、Pegasus(分布式KV存储系统)等一系列开源项目。

在AI方面,小米开源了自研的针对移动端设备优化的深度学习框架 MACE,目前已经支持内部的多个业务。

原文地址:http://www.eeboard.com/news/xiaomi-opensource-mace-github/

搜索"爱板网"加关注,每日最新的开发板、智能硬件、开源硬件、活动等信息可以让你一手全掌握。推荐关注!
【微信扫描下图可直接关注】

发表评论

相关文章

小型人工智能(AI)深度学习神经网络晶片面世——“AI小鼠Mipy”

16日,台湾师范大学与视芯(AVSdsp)公司合作开发的小型人工智能(AI)深度学习神经网络晶片“AI小鼠Mipy”在台师大发布,引发关注。

重磅!树莓派正式支持谷歌深度学习框架TensorFlow

树莓派的最新版本系统正式支持TensorFlow,让每个开源硬件爱好者都能享受深度学习的乐趣! 2015年,谷歌TensorFlow推出,从此,它一直致力于成为每一个人的开源深度学习工具。 长期以来,经...

人类是否该拥抱人工智能?

从语音识别到语言翻译,从下围棋的机器人到自动驾驶汽车,各行各业都在该人工智能的驱动下出现了新的突破。虽然现代神经网络的表现令人激动,但也面临一个棘手的问题:没人理解它们的运行机...

中国智能手机抢滩印度,三星、苹果激烈反击

印度手机市场混战:中国品牌“合围”三星 苹果折戟 在中国市场之外,国产手机近年来纷纷瞄准智能手机正在普及的国家——印度。国产手机进入印度,并在印度迅速占领市场份额,小米、OPPO、vivo等...

小米发布高性价比6.9寸巨屏神机-小米Max3

小米正式发布了新一代巨屏大电池神机小米Max 3。小米Max 3配备了一块平板机级别的6.9寸大屏幕,支持分屏模式、画中画、巨无霸字体、单手模式。无刘海全面屏设计,屏占比比上代提高6.5%,屏...