爱板网的新老用户,告诉你一个好消息,爱板网(www.eeboard.com)将在近期并入电路城(www.cirmall.com)网站,我们将爱板网中丰富的开发板资料与电路城大量优质的电路方案相结合,旨在为广大工程师朋友打造一站式的技术资源库,你所需的电路设计技巧、开发板评测、电子产品拆解、硬件解决方案,都可以在合并后的电路城网站找到,助力你的技能进阶。让我们一起期待一个全新的体验吧!
X
现在的位置: 首页评测>正文

还好没放弃,终于等到你——基于边缘计算的谷歌Coral USB加速棒实测

2019年05月07日 作者: 暂无评论 1,004+ 0

距谷歌的Edge TPU发布已经过去大半年的时光,自从这个边缘计算设备发布后,一直在紧张的盼望着,左等右等终于亲自拿到手了这个心心念的谷歌Coral USB加速棒,这时最大的感受莫过于还好没放弃,终于等到你。

边缘计算

谷歌Coral USB加速棒是一款基于边缘计算的人工智能加速棒,这意味着我们可以在本地进行推理,而不需要连接到功能强大的类似服务器的主机。在这里,本地主要是指便携式(通常是电池供电的)设备。我们知道,很多多AI应用程序在云中运行,允许你在大量数据上运行繁重的模型,但这意味着您必须始终通过互联网连接发送数据,等待服务器执行繁重的工作,然后将结果发回。如果您使用有线连接,这可能会非常快,但在连接不良或只有无线连接的情况下可能需要几百毫秒甚至几秒钟。

另外,通常情况下我们喜欢即时的感觉(即没有延迟),大概是在100毫秒内的反应。100ms在计算方面看似乎是很长一段时间,但如果你增加一点输入和输出延迟,以及一些计算延迟,那100ms的预算可能很快就用完了,而此时你需要争取到即时这个概念那花费的代价可能是极其巨大的。

边缘计算就很好的解决了这样的问题,通过在几毫秒内在本地运行轻量级模型,您可以体验瞬间即时的输出,另外一些高刷新率的显示输出设备也是极其必要的,毕竟即使换句话说就是越快越好。

谷歌Coral USB加速棒

谷歌Coral USB加速棒是USB连接的硬件加速器设备,包含新的Google Edge TPU(Tensor处理单元):小型ASIC(专用集成电路),在TensorFlow Lite深度学习框架上具有巨大性能(MobileNet V2 SSD上100 + fps) ,功率很小(官方只指定需要500mA 5V USB端口,因此最大功率为2.5Watt)。

如何加速推理?

谷歌Coral USB加速棒内置的ASIC是专门设计的电子元件,可以完成指定的任务。因此,与基本上可以执行任何操作的CPU不同,它们除了设计该执行的确切内容之外什么都不做。但是,CPU通常需要大约6个时钟周期来完成乘法运算,设计用于乘法运算的ASIC可以在不到1个时钟周期内完成,因为工程师可以准确预测每次数据流过它时会发生什么。 。因此,唯一需要的时间是来自具有最大晶体管数量的数据路径的输入和输出之间的传播延迟。如果有人对传播延迟,FET和时钟周期有疑问,可以查看CPU和数字逻辑如何工作的基础知识,这里不另做说明,很耗时。

计算

假设EdgeTPU中增加的传播延迟是10ps,这意味着有100GHz的数据点流过。这不像100GHz CPU时钟,但意味着每秒完成 100,000,000,000次乘法运算。这是我对EdgeTPU在宽线中的作用的猜测:它具有并行乘法,并且在乘法输出上具有金字塔状的加法架构。

文章分页: 1 2

发表评论

相关文章

毫米波雷达的“新拐点”

随着毫米波雷达将处理器或DSP集成走向单芯片,以及级联之后实现的高分辨率,将有可能对物体进行分类和跟踪,从而实现边缘深度学习计算。边缘智能的这扇门一开,未来毫米波雷达会释放多少市场...

备胎是每个国家都应该未雨绸缪的,LG角逐人工智能芯片

据businesskorea报道,LG电子公司开发了自己的人工智能(AI)芯片,适用于各种家用电器。该公司正寻求扩大其业务组合,包括自动驾驶汽车的电子元件。 LG电子表示,其人工智能芯片可用于各种产...

NVIDIA净利润暴跌68%的真相?人工智能:我不背锅

NVIDIA今天发布了2020财年第一季度财报。截止2019年4月28日,NVIDIA季度收入22.20亿美元(GAAP下同),环比增长1%,同比下跌31%;毛利率58.4%,环比提高3.7个百分点,同比减少6.1个百分点;...

利用本性、借力培育打造令人惊叹的AI SoC

在过去十年中,设计人员开发了各种硅技术,能够以足够快的速度运行先进的深度学习数学,以探索和实现人工智能(AI)应用,如目标识别、语音和面部识别等。机器视觉应用目前通常比人类更精确...

解剖构成智能工厂的感官、肢体、神经系统和大脑

工业4.0大幅变革传统生产线,新时代智能工厂应运而生。智能工厂将面对终端智能化、连接泛在化、计算边缘化、网络扁平化、服务平台化及安全提升化等技术发展趋势,需要解决智能感知控制、全面...