Nvidia首次推出超级计算平台以在网络边缘交付AI
Nvidia Corp.周一晚在洛杉矶举行的世界移动大会上宣布了其新的EGX Edge超级计算平台的可用性,该平台全部用于为人工智能目的利用所谓的“边缘数据”。
Nvidia创始人兼首席执行官黄仁勋(如图)表示,EGX将使公司能够利用工厂车间或城市街道中的快速流数据来大规模,以较低延迟提供“下一代AI,物联网和基于5G的服务”。
Huang在一份声明中说:“我们进入了一个新时代,数十亿个永远在线的IoT传感器将通过5G连接并由AI处理。” “它的基础要求新型的高度安全的联网计算机,可以在很远的地方轻松操作。我们已经为这个世界创建了Nvidia EGX Edge超级计算平台,在该平台上,计算已经超越了个人范围,超越了云,从而可以在全球范围内运行。”
使AI能够在智能手机,传感器和工厂机器等边缘设备上运行是技术发展的下一步。由于最早的AI算法如此复杂,以至只能在运行在云数据中心中的强大计算机上进行处理,因此这是不可能的,这需要通过网络发送大量信息。但这是不希望的,因为它需要大量的带宽并导致更高的延迟,这使得“实时” AI变得比这要少。
公司真正想要的是在创建数据本身的地方执行AI,无论是在制造设施,零售商店还是仓库。这就是Nvidia EGX 要做的。它将Nvidia的AI技术与Mellanox Technologies Ltd.的安全性,存储和网络技术相结合,Mellanox Technologies Ltd.是一家数据中心网络公司,Nvidia此前曾表示,计划在今年年底前以69亿美元的价格收购。
EGX平台运行Nvidia Edge Stack,这是针对实时AI服务(例如分析,语音和视觉)进行了优化的软件堆栈。该平台还结合了Nvidia的CUDA-X软件,用于AI的库,工具和技术的集合以及Nvidia认证的图形处理单元服务器。它还支持Nvidia Metropolis,这是一个用于构建智能城市和智能视频分析应用程序的框架。
Constellation Research Inc.首席分析师兼副总裁霍尔格·穆勒(Holger Mueller)表示:“人工智能工作负载之战不再是在云中决定的,而是现在在运行它们的边缘平台上进行。企业等,因此正在创建具有AI组件的边缘平台。当您提到AI时,Nvidia当然想玩,这就是它使用EGX平台所做的事情。”
宝马已充分利用Nvidia EGX的公司之一。这家德国汽车制造商正在使用EGX从其位于南卡罗来纳州制造工厂的检测线的多个摄像机和传感器收集数据,以实现其所谓的“智能视频分析”。
洛杉矶市是Nvidia平台的另一个早期采用者,它使用EGX捕获车辆和行人数据以自主管理街道信号定时。
Moor Insights&Strategy的Patrick Moorhead表示:“随着5G和物联网在边缘创建更多数据,处理数据的效率更高。边缘计算可以提供这一点,但是对于许多工作负载,需要更多的加速。Nvidia的EGX是GPU加速的平台,最适合那些边缘工作负载。”
英伟达天线
EGX平台的另一个关键方面是今天宣布的新型Nvidia天线软件开发套件。Huang在主题演讲中说,Nvidia天线对于5G提供商来说是至关重要的要素,因为它将使EGX通过两个方面的进步,使用EGX来构建和交付“软件定义的高性能5G无线无线电接入网络”。这些功能包括从Mellanox网络接口卡到GPU内存的低延迟数据路径以及5G物理层信号处理引擎,可确保所有数据都保存在GPU内存中。
Huang说,借助Nvidia Aero,电信公司将能够构建完全虚拟化的5G RAN,以支持增强现实和虚拟现实,云游戏和智能工厂等用例。
英伟达已经与瑞典网络公司Telefonaktiebolaget LM Ericsson合作建立了世界上第一个软件定义的5G RAN。他们说,两家公司正在寻求将该技术商业化。
爱立信执行副总裁兼网络负责人Fredrik Jejdling说:“与Nvidia一起,我们将共同考虑将替代产品推向市场,以对整个无线接入网络进行虚拟化。”
扩大伙伴关系
Nvidia还宣布与Red Hat Inc.和Microsoft Corp扩大合作伙伴关系。
关于第一,Nvidia称它提供高性能,软件定义的2.5G无线红帽OpenShift平台,电信公司运行的基础设施。Huang说,这个想法是使支持AI的应用程序在电信边缘更易于访问。
同时,Nvidia表示EGX平台正在与Microsoft的Azure云紧密集成,以提供更高级的“边缘到云AI计算功能”。两家公司将专注于智能边缘计算,以帮助各个行业的组织更好地管理并从例如在零售商店,仓库,制造设施,互连建筑物和城市基础设施中创建的数据中获取见解。
Huang说:“全球最大的行业希望在边缘具有AI计算能力,以从连续的数据流中提取见解,并在行动点进行感知,推理和行动。”