现在的位置: 首页资讯>正文

NVIDIA黄仁勋:最完美的架构是CPU+GPU,在专门问题解决上GPU是CPU的10倍,50倍甚至百倍

2017年09月27日 作者: 暂无评论 1,611+ 0

NVIDIA001今日(9月26日)上午,NVIDIA在北京召开2017GTC大会,推出全新NVIDIA®TensorRT3 AI推理软件,该软件能够大幅提升从云端至终端设备(包括无人驾驶汽车和机器人)的推理性能并降低成本。黄仁勋介绍,搭配TeslaV100 GPU加速器的TensorRT每秒能够识别多达5,700张图片,而如今所用的CPU则每秒仅能识别140张图片。

除了TensorRT3以外,黄仁勋还发布了能够实现AI加速的软件。其中包括能够大规模提供实时、低延迟视频分析的DeepStreamSDK、以及能够加快HPC和深度学习应用速度的加速计算软件平台CUDA的最新版本:CUDA9。

黄仁勋宣布,阿里云、百度和腾讯均已在其云服务中部署TeslaV100GPU加速器。另外,包括华为、浪潮和联想在内的中国顶尖OEM均已采用NVIDIA的HGX服务器架构并使用TeslaV100GPU来构建新一代加速数据中心。

会后,黄仁勋接受了媒体采访,本文是采访内容整理:

CPU、GPU之外的芯片发展趋势如何?

记者:自主机器这个时代什么时候能够像现在的AI这么火的来临?今年有一个国内比较知名的厂商,他说CPU之外可能有很多芯片会被创造出来,您认为GPU将来可以覆盖所有的场景,还是说在GPU之外还有更多的场景,更多的CPU也会被造出来,形成我们最终未来计算的一个模式?

黄仁勋:首先,我们其实也可以做一个这样的比喻,想象一下,当我们这个产业刚刚看到了人工智能、云计算技术的到来。

其实对于自主机器而言它需要解决的是三大根本的问题,第一个是为这些自动自主机器打造一个类似于人工智能的平台,比如说上午谈到的这种增强学习等等。

第二个问题是让这些机器人或者说自主机器能够有一个虚拟的,来学会做机器人的这种环境。

第三个要解决的问题,就是一旦我们完成了第二步,让这些机器人自主机器学会了作为机器人的行为方式的时候,我们就要把AI这样的一个人工智能的大脑放到自主机器的这样一个框架里面去。

目前的这三个问题,我们还没有完全解决。但是,我们三项工作正在并行中,比如说我们上午谈到的Xavier,它就是我们谈到的叫做自主机器,我们让它去培训它,如何去学,还有Issac机器人的项目,打造的一个虚拟的让机器人去学习的环境。

我们相信很快,NVIDIA会把这三方面的基础都打好,整个产业会在产业基础架构好后推动自主机器正式的生产。然后,在随后的10到15年,在座的诸位我们都会看到令人难以置信的进步。

首先GPU不会替代CPU,它是携手和CPU共同工作的,这也是我们为什么把它称之为加速器,CPU是通用型的,什么场景都可以适用。但是GPU在一些专门的问题上是能量非常大的。它的性能要比CPU超过10倍,50倍甚至百倍。

事实上,最完美的架构是CPU+GPU。我们不会做那些每一次好一点点的通用性的处理器,而是要做在一些专门的领域,性能极好的处理器。这就是我们今天上午介绍的CUDA的架构,其实就是CPU+GPU。简称CGPU,这就叫做CUDA-GPU。

记者:AI爆发以后,芯片除了GPU、CPU,还有很多厂商也在用这块的东西,能不能谈一下在GPU和FPGA这个方面,你们有没有一些想法?

黄仁勋:首先两者差异非常大,FPGA非常灵活,可以在以太网,音频、视频完全可以配置,在设计的时候可以把它设计成各种各样的用户。但是GPU没有这么大的灵活性,比如以太网卡、音频卡,GPU做不了,它是一种并行计算的加速器。

比如FPGA可以转变成GPU,但是性能不行,速度上不来。要比GPU慢一千倍,但是你可以用FPGA做以太网卡,但是GPU做不到。所以GPU是术业有专攻。

在三年前我们做了一个决定,把我们GPU做成Tensor执行处理器,现在已经成为世界上最优秀的Tensor处理器。但是说到底就是一块芯片而已,你要做Tensor处理还要有软件,因为每一项AI计算的图都是不一样的。而且每一个计算图在制定的处理器上为了达到性能的调优都必须进行编译。当然也有一个选择,每个神经网络都设计一个专门的FPGA,但是特别困难,设计起来很困难,而且工作量很大。但是如果说市场上没有人给你提供一个这样的可编程推理的加速器的话,其实FPGA就成了你唯一的选择了。

这也是为什么在几年前中国BAT它们要对自己人工智能的推理做一个加速的话只能定制FPGA的芯片。三年前没有办法,我们GPU有TensorRT,现在不需要用,现在比较简单,什么都可以,当然是TensorRT。最好的办法当然是用TensorRT3最好。

NVIDIA投资公司有三大标准,不只看好自动驾驶

记者:如果特斯拉跟其他厂商做了自动驾驶芯片,你还买不买特斯拉?你们也投资了图森、景驰这样的自动驾驶公司,为什么呢?

黄仁勋:我当然还会买他们的车,首先你想这车里面没准还有Intel的CPU呢,比如我的电脑里也有Intel的CPU,我的手机用的是高通的系统,其实我觉得这些公司都是非常优秀的公司,我之所以买,还有开特斯拉的车,是因为我觉得驾驶感觉不错。

首先,我们要谈一下,其实NVIDIA投资的公司数量非常之多,我们选择投资的时候通常有三个标准,第一个标准应该与我们公司拥有一样的愿景目标,第二点这家公司一定是需要我们NVIDIA的帮助,这点是我们非常看重的,如果这个公司根本不需要我们的话,我们也不会考虑投资他们,第三点公司本身必须是一家优秀的公司。

记者:NVIDIA在去年投资十家公司,只有两家中国公司,但这两家公司都是自动驾驶公司,意味着NVIDIA更看好自动驾驶在中国的发展前景?另外NVIDIA在中国未来还会投资哪些领域的公司?

黄仁勋:首先NVIDIA核心业务,我们心脏是什么?还是针对万物的GPU计算,这是我们的基础。事实上我们GPU的计算也有各种各样的应用领域,比如可以做科学的探索发现,计算图形,人工智能。当然我们也有重点,我们关心几个垂直领域,其中一个就是人工智能,还有一个就是交通运输行业。但是这个交通运输绝对不只包括交通工具,我们谈到的是人工智能化的交通运输。

如果你问我们未来NVIDIA还有哪些重视的行业?当然医疗卫生或者健康产业是我们非常重视的。在这里我们相信我们可以帮助健康产业实现变革。首先第一点新药研发,也就是说分成两个方面,第一方面是本身新药的制造研发,第二部分能够让医生快速发现有哪些新药是对症?第二点就是疾病的早期检测。说到检测这一定是一个人工智能去解决的问题,比如说人工智能检测谈到的所说的医疗影像的问题。第三其实是新药这种临床效果的实验大规模的取样问题。我们认为在这三个健康产业的问题之上人工智能都是大有所为,而且这个时间很快就会到。

记者:5月GTC上发布的云业务进展怎么样?虽然我们今天谈了很多端智能的东西,但是你觉得未来是云智能还是端智能,如果说端智能的话,如何看待谷歌GPU之类的?

黄仁勋:首先,NVIDIA5月份发布的是NVIDIA GPU Cloud,它也不是我们的一个什么业务或者是云服务,它是一个云软件容器在云上的注册表,而这些虚拟的云的容器,能够跑在任何一个云的基础设施之上。这就是NVIDIA GPU云的这样一个概念。这就意味着我们NVIDIA的GPU的云可以在百度、阿里巴巴、腾讯任何一个云上去运行。

因为我们看到了目前人工智能框架的软件堆栈是非常繁杂的,所以我们干脆把它放到一个虚拟化的容器里头。那么如果进展的话,在5月份我做发布的时候说,它的GA版会在10月份面世,目前我认为达到这个时间段是没有问题的,应该是在10月份的第一周,我们的GA版就会面世。

事实上智能是无所不在,比如说会在麦克风上,会在手表上,保温杯,鞋子、手机,只不过智能分类型,有通用性还有专门性,如果小型终端设备,是属于专门性的智能,如果是智能麦克风只需要云识别方面的智能,在云端其实通用性的智能,在云端通常我们是具备各种各样所有的软件,而且它必须是灵活的可编程,再比如说设备端,或者说终端是更类似于边缘计算或者物联网类型,自动贩卖机。

如何应对谷歌TPU之争?

记者:我想问两个问题,第一您在上午演讲里面提到了跟TPU的性能对比,咱们的TensorRT3的话,到底在性能上跟TPU有什么样的区别,或者说到底比它快多少倍?这个我们需要预测未来3年到底跟TPU是怎样的一个格局,这第一个问题。

黄仁勋:首先,谷歌的TPU只能做TensorFlow,Tensor的处理。而我们的GPU不光能做Tensor处理,还能做很多其他的任务。比如说视频的编解码,还有像这样的一些图像的处理等等。举个例子,今天上午我演示的在《权利的游戏》这个电视连续剧里我们的GPU就可以做视频解码,并且进行推理,推理之后做搜索。我们GPU能做的事情远远多过TPU。

而且我们GPU的架构又是完全灵活可编程的,可以支持世界上任何一种人工智能框架,比如亚马逊Caffe、百度PaddlePaddle还有Facebook用的touch,以及微软用的CNTK。如果做一个长远预测,我们认为,能够针对深度学习进行优化的GPU是能够获得最大成功。

为什么是这样的呢?因为它是非常灵活,因为它的灵活,所以它的市场机会就会多,因为市场机会多,所以研发的预算也多,整个生态系统也就有钱了。

人工智能要重视学术界的巨大推动作用

记者:有一个问题是现在AI领域学界和企业界的差距已经拉的有点大了,NVIDIA在企业界做了很多努力,做了很多投资,请问黄总,在学界打算要怎样和学界方面的合作?

黄仁勋:我觉得您这个问题问的非常之好,其实我们NVIDIA一开始在做人工智能的时候,完全没有想到做生意的问题,我们完全把它作为一个纯粹学术的研究去做。其实你看一下5到7年之前,主要在深度学习方面取得的进展都是由这些大学来做的,像斯坦福、多伦多、纽约大学等等。

事实上,我们NVIDIA就有这方面和全球的这些学术界的研究人员的深度的合作,我们和他一方面共同的去做开发,我们也为他们的研究的项目提供资金,我们甚至还邀请了这些学者们到我们这个公司去做一些研究。我们把它简称为NVIDIA的人工智能的实验室NVAIL。在中国,我们也是和三所高等学府,他们分别是清华、中科院,香港中文大学做这种合作。事实上一般来说,公司生产出产品来急于把它卖掉赚钱,但是我们谈一下我们NVIDIAVolta的GPU,我用了三年的时间,研发经费达到了30亿美元,产出的一款的GPU,其实是我们免费捐赠出去让别人使用的。所以为什么说您提的这个问题非常之好呢?如果谈到人工智能的话学术界的作用是非常巨大的。

记者:您怎么样看未来5到10年在人工智能这个时代,华人和华人企业所扮演的角色,会是什么样的?

黄仁勋:中国的计算机科学的这样一个技术水平,是在全球一流的。我们认为在中国,腾讯不光是一家优秀的中国的互联网公司,也是世界一流的公司。像阿里巴巴也是如此。百度我们也不认为它只是中国的一家搜索的公司,它是世界一流的公司。如你提到的李飞飞是我个人的好朋友,在我的眼里,我绝对不把他局限为一个优秀的华人的AI的科学家,我认为他是世界顶级的人工智能的科学家。还有像陆奇也是。所以,其实中国的计算机整个产业的技术水平,已经深至世界一流了,所以已经不是局限于某一个国别的范围了。

关于网络安全:最怕黑客黑到云上去,控制整个车型

记者:想问一下关于信息安全这方面,您有什么建议和想法呢?因为现在处于云计算、大计算、大数据的时代,这种安全应该是非常底层和核心的。你可以针对汽车谈谈网络安全么?

黄仁勋:首先,我们来谈一下网络安全它也是分层不同的层次,不同的领域的。而且我们知道,安全其实分层两个概念的,英文的security和safety是两种不同的安全,safety是和人相关的,security是指物理方面的研究,比如我们谈到安全的生产,我们生产出来产品自身的安全,我们可以通过科学技术,通过严格的流程控制,标准方法来去做到,当然它还有一些,比如说出故障的这种非常小的概率。

在车的产品之上很特殊,因为不光是车自己的信息的问题,其实车本身它没有什么值钱的信息,但是们坐在里头,如果这个车被黑了的话,会伤及人身安全。那如果我们谈到有关车的安全的话,又分成不同的,比如说一个人对一台车,还有一个人,他的信息到云端,到云端又会针对它众多的其他与车无关的,很多的其他的信息。其实,如果只是说一个黑客,黑了一台车,本身的这个问题并不大。当然我们可以降低这样的一个安全的风险,而且手段很多。那事实上,在未来,你再想黑一台车其实也并不是那么的容易,未来的车有防火墙,而且有加密,而且你也不容易黑到他的通讯的端口上。

记者:这次科学实验室,针对智能汽车,包括它所有的防火墙,以及他的数字加密系统全被破解了,不单单是一辆车,是所有的车型。

黄仁勋:是这样,你光黑一辆车问题不大,你说远程把车门解锁了,没问题,我把车门再关上,这个问题不大。最可怕的是黑客通过黑到车,在黑到云上去,通过云可以控制所有的车,这个是最可怕的。

关于自动驾驶:Drive每一层都是开放的,适用于不同类型,不同技术型的公司

记者:我们关注智能驾驶领域的,所以我问的是汽车方面的问题。黄总您上午讲到,我们有一个NVIDIA自己开发的自动驾驶应用,请您具体说一下DriveAV和之前我们说到的DrivePX平台,他们区别是什么?是不是意味着我们NVIDIA在硬件平台的基础上面自己开发,比如说传感器数据融合,还有一些计算机视觉的算法。

黄仁勋:首先DrivePX是硬件,还有一个操作系统,DriveOS,还有一个API,也就是DriveWork。也就是说,自动驾驶里头的这个OS,就相当于它的车窗一样,DrivePX是主板,像X86之类的主板。谈到DriveAV就是无人驾驶的应用了。我们把所有的这些放在一起叫做NVIDIADrive。

为什么我们给每一层都分别取了自己的名字呢,因为每一层都是开放的。也就是说,你要用我们的硬件、主板、芯片。但是其他部分你想自己开发,操作系统你自己开发没有问题,如果你除了应用之外其他底层的堆栈之外,你都想用NVIDIA的,没有问题。也就是说,我们的Drive每一层都是开放的,适用于不同类型,不同技术型的公司。

为什么要开发自己的算法呢?是因为5年前我们刚刚开始做这个Drive,必然要让处理器知道它要处理什么样类型的这样一个东西,也就是算法,所以我们当然要知道算法。有了算法,我们就可以去打造电脑,有了这个电脑,我们可以打造更好的算法。事实上包括中国在世界上有很多做自主驾驶非常有创新性的公司,有的做驾驶算法非常好,有的做认知计算非常好。所以我们是开放的,大家一起做。我们认为未来自主驾驶,它是一个非常大的市场,大家众人拾柴火焰高吧,一起做。

原文链接: http://www.eeboard.com/news/nvidia-14/

搜索爱板网加关注,每日最新的开发板、智能硬件、开源硬件、活动等信息可以让你一手全掌握。推荐关注!

【微信扫描下图可直接关注】

aiban

科技早知道:

NVIDIA:Intel CPU性能已到尽头,只有NVIDIA的GPU可以弥补CPU的不足?

在中国电子工程师的发展不如软件工程师,难道就因为处在互联网时代吗?

牛掰了!三星全新的Vertical-NAND存储解决方案助其推出全球首款1TB手机闪存

阿里联手飞猪布局智能酒店客房为天猫精灵推广铺路

你绝对想不到:天津停车场无线信号竟然把美国卫星给搞报废了!

发表评论

相关文章

5G来了 自动驾驶落地还远吗?

9月27日,中国联通携手百度、华为在中国国际信息通信展览会开展基于5G网络技术的自动驾驶和远程驾驶演示。中国联通网络技术研究院朱常波副院长、百度自动驾驶技术总监陶吉、华为5G产品线副总...

最全面的5G产品组合,赋能云网端,共铸新生态

昨天,以“赋能云网端,共铸新生态”为主题的英特尔5G网络峰会在北京召开。英特尔携手业界领先的电信运营商、芯片制造商、设备制造商、系统集成商、服务提供商以及广泛的技术开发者等中国5G产...

中国移动抓住5G发展机遇:5G自动驾驶率先登场

9月19日,由北京市房山区人民政府、中国移动联合主办,中国移动全资子公司中移智行网络科技有限公司承办的首届中国移动5G自动驾驶峰会在京举行。会上,中国第一条5G自动驾驶车辆测试道路、5G...

想学AI和机器学习的人,这 6 个领域你不得不懂!

近期热门的话题, 人们开始重新讨论这一基本定义----什么是人工智能(AI)。有些人将 AI 重新命名为「认知计算」或「机器智能」,而其他人则错误地将 AI 与「机器学习」概念进行交换。在某种...

十月上海揭秘SiP在汽车、IoT和手机领域最新技术革新

不要错过为整个会议期间规划的娱乐活动,包括周三晚上举行的丰富的中国文化和舞蹈音乐表演,以及周四晚上的“上海之夜”,您将游览上海夜间美景并享受日落之后的上海生活。