英伟达首款边缘计算AI平台EGX重磅发布!实时处理,高性能、可扩展

百家 作者:新智元 2019-05-28 07:05:34



??新智元报道??

来源:新智元综合报道

编辑:肖琴

【新智元导读】英伟达最新发布首款面向边缘设备的AI平台Nvidia EGX,将 AI 带到了网络的边缘。该平台可以实时感知、理解和处理数据,而无需先将数据发送到云端或数据中心。


在今天台北电脑展?COMPUTEX 2019上,英伟达带来了一项重大发布:
推出首款面向边缘设备的AI平台Nvidia EGX


此外,发布会还公布了另几项好消息,包括将最先进的?RTX??GPU 带到了笔记本电脑上,免费提供带有实时光线追踪的体验版游戏等。



新的?Nvidia EGX?平台,将?AI?带到了网络的边缘。该平台可以实时感知、理解和处理数据,而无需先将数据发送到云端或数据中心


将?AI?应用到智能手机、传感器和工厂机器等边缘设备上,是?AI?技术发展的下一步。最早的?AI?算法非常复杂,只能在运行在云端数据中心的强大机器上处理,这意味着要通过网络发送大量信息。但这是不可取的,因为这样做需要大量带宽,并且会导致更高的延迟,使得?“实时”?非常难。


“在?[物联网]?传感器的增长推动下,计算行业发生了巨大的变化,”?英伟达企业与边缘计算高级主管?Justin Boitano?在新闻发布会上表示。“有用于观察世界的摄像头,用于聆听世界的麦克风,还有一些设备可以让机器探测到现实世界正在发生什么。”


这些都意味着需要分析的原始数据量正在呈指数增长。


“我们很快就会到达一个交叉点,在这个交叉点,边缘的计算能力比数据中心更强,”Boitano?说。


企业真正想要的是让?AI?在数据产生的地方执行,无论是在制造设施、零售店还是仓库。领先的科技公司一直试图解决的问题,包括最近英特尔也推出了其首款面向边缘计算的10?纳米?“Ice Lake”?芯片,此外,许多初创公司也推出了这类芯片。


但英伟达进军?AI?领域的举动引人注目,因为英伟达的?GPU?被广泛认为是最好的?AI?处理硬件之一。其中包括用于深度学习的?Tesla V100,以及能够实时进行光线追踪的Quadro GV100。


英伟达边缘AI平台三大特性


新的?NVIDIA EGX?平台专为边缘新型的高吞吐量?AI?应用而设计,其中数据来源可实现即时或保证响应时间,同时减少云带宽。


EGX?平台是可扩展的。可以从基于?Jetson Nano?处理器的轻型服务器扩展到基于?NVIDIA T4?的边缘服务器的微型数据中心,前者每秒可执行?0.5?万亿次操作,仅需几瓦特;后者每秒可执行?10,000?万亿次操作。芯片的节能能力对?AI?来说非常重要,因为传统硬件在运行这类任务时耗电量巨大。


Justin Boitano?表示,到?2025?年,全球将有约?1500?亿台机器传感器和?“物联网”?设备,因此对?NGX?这样的平台的需求将是巨大的。他说,其中许多传感器将用于?“智能城市”?等项目,并将输出需要在现场处理的数据,原因包括需要更低的延迟、实时响应、数据主权规则或隐私方面的担忧。


“无论是视觉方面还是在语言方面上,AI?确实是所有行业的杀手级应用,”Boitano?说。


如果人们真的想要充分利用这些芯片,那么合作关系也很重要。出于这个原因,Nvidia正在将运行在?EGX?上的?Nvidia Edge Stack?软件与?Red Hat?公司的?OpenShift Kubernetes?容器编排平台相整合,以使其与现代软件应用程序兼容。


该平台还集成了来自?Mellanox technologies Ltd.?的安全、存储和网络技术。英伟达计划在年底前以?69?亿美元的价格收购这家公司。



总结而言,NVIDIA EGX?具有以下特性:


高性能和可扩展

EGX?从小型的?NVIDIA?Jetson Nano?开始,几瓦的功率就可以提供每秒?0.5?万亿次(TOPS)?的处理操作,用于图像识别等任务。此外,EGX?可扩展到所有的?NVIDIA T4?服务器,提供超过?10,000 TOPS,可以为数百名用户提供实时语音识别和其他复杂的?AI体验。


混合云和多云物联网

NVIDIA EGX?在架构上与主要云提供的?NVIDIA AI?计算兼容。在云上开发的?AI?应用可以运行在?NVIDIA EGX?上,反之亦然。NVIDIA Edge Stack?连接主要的云物联网服务,客户可以通过?AWS IoT Greengrass?和微软的?Azure IoT Edge?远程管理他们的服务。


企业级和安全性

NVIDIA Edge Stack?在领先的企业级?Kubernetes?容器编排平台?Red Hat OpenShift?上进行了优化。Mellanox Smart NIC?可以卸载和加速软件定义的网络,从而在不影响CPU?性能的情况下实现更高级别的隔离和安全性。


Mellanox?的首席技术官?Michael Kagan?说:“Mellanox Smart NIC?和交换机为从边缘到超大规模数据中心的数据访问提供了理想的?I/O?连接。”


NGX?还与运行在主要云基础设施服务?(如?AWS?和?Microsoft Azure)?上的?AI?应用程序兼容,并可以连接到物联网服务,如?AWS Greengrass?和?Azure IoT Edge?等。


笔记本电脑也可以用英伟达最先进的专业级GPU


作为?Computex 2019?新闻发布会的一部分,英伟达宣布了全新的?“笔记本电脑品牌认证推广计划”,即?Nvidia RTX Studio?。



首款支持的是?Quadro RTX 5000,与台式机版本相同,有?3072?颗?CUDA?核心、48?颗RT?核心、384?颗?Tensor?核心和?16GB GDDR6 RAM,专为那些从事大量图形或视频工作的专业人士而设计。


首批共有?7?家合作伙伴公司?(华硕,戴尔,惠普,微星,雷蛇,技嘉和宏碁)?的一共?17?款笔记本电脑由,这些笔记本电脑将搭载新的?Quadro GPU,都以?“RTX Studio”?的名称命名。


用英伟达?GeForce?软件与技术总经理?Jason Paul?的话说,这些笔记本将能够?“随时随地”?提供?“桌面级性能”。英伟达还宣称这些笔记本的运行速度比同等级的?MacBook Pro?快?7?倍,配备?32GB RAM?和?AMD?的?Pro Vega 20 GPU。


One More Thing:快来玩带光线追踪的《雷神之锤?2》


在今年?GDC?上,英伟达展示了实时光线追踪加强版的《雷神之锤?2》demo,新技术加持后的老游戏魅力大放异彩,收获了非常多的关注。



今天在?Computex?上,英伟达宣布将从?6?月?6?日起免费向玩家提供《雷神之锤?2 RTX》的体验版本,大家可以亲身体验堪称游戏革命的实时光线追踪技术了!


据介绍,这个体验版总共只有三关,之后可以通过?NVIDIA?官网或?Steam?下载。NVIDIA?内部的?Lightspeed Studios?为游戏加入了更真实的光影效果,比如即时光线、间接照明、水面反光等视觉元素在作品中都可以找到。


<iframe class="video_iframe rich_pages" data-vidtype="2" data-mpvid="wxv_829181596036235264" data-cover="http%3A%2F%2Fmmbiz.qpic.cn%2Fmmbiz_jpg%2FUicQ7HgWiaUb1AuuGxXibmicOGByM9QB0s9HRdD1BvzoxfXmu7YNFquexKTMfQYlSOUrUjFrsa9NyK6Phf2olN5RBQ%2F0%3Fwx_fmt%3Djpeg" allowfullscreen="" frameborder="0" data-ratio="1.7777777777777777" data-w="1280" data-src="http://mp.weixin.qq.com/mp/readtemplate?t=pages/video_player_tmpl&auto=0&vid=wxv_829181596036235264" width="368" height="207" data-vh="207" data-vw="368" scrolling="no" style="display: none; width: 368px !important; height: 207px !important; overflow: hidden;"></iframe>




新智元春季招聘开启,一起弄潮 AI 之巅!

岗位详情请戳:


【加入社群】


新智元 AI 技术 + 产业社群招募中,欢迎对 AI 技术 + 产业落地感兴趣的同学,加小助手微信号:aiera2015_2???入群;通过审核后我们将邀请进群,加入社群后务必修改群备注(姓名 - 公司 - 职位;专业群审核较严,敬请谅解)。

关注公众号:拾黑(shiheibook)了解更多

[广告]赞助链接:

四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/

公众号 关注网络尖刀微信公众号
随时掌握互联网精彩
赞助链接