首頁?行業  »   正文

英偉達推出邊緣計算AI平臺EGX,優化實時AI服務

英偉達推出邊緣計算AI平臺EGX,優化實時AI服務

在COMPUTEX 2019上,英偉達推出了面向邊緣設備的AI平臺EGX,將實時AI帶到網絡邊緣。這意味著AI計算將發生在傳感器收集數據時,無需先數據發送到云連接的數據中心。

“在物聯網傳感器的增長推動下,計算行業發生了巨大變化,”企業和邊緣計算高級主管Justin Boitano表示,“有用于觀察世界的攝像頭,用于聆聽世界的麥克風,以及可以讓機器檢測現實世界中正在發生的事情的設備。”

但這也意味著必須分析的原始數據量呈指數級增長。

Boitano指出,“我們很快就會遇到一個交叉點,在這個交叉點,邊緣處的計算能力要超過數據中心。”

面向邊緣

英偉達及其客戶將在電信,醫藥,制造,零售和運輸等市場為實時流數據提供新型服務器,用于實時AI。

英偉達 EGX將在邊緣為低延遲交互,或在那些有最小時間延遲的交互間提供加速計算。這將實現對5G基站,倉庫,零售店,工廠等傳感器數據的實時反應。

AI是我們這個時代最重要的計算挑戰之一,但CPU并沒有跟上。英偉達創建EGX以滿足AI應用程序的新興需求,這些應用程序最終將為數萬億個設備傳輸連續的原始傳感器數據。

該平臺專為邊緣新興的高吞吐量AI應用而設計,其中數據來源可實現即時或保證響應時間,同時減少云帶寬。到2025年,1500億臺機器傳感器和物聯網設備將傳輸需要處理的連續數據,這將是比人們產生的數量級更多的數據。

英偉達推出邊緣計算AI平臺EGX,優化實時AI服務

Edge的企業級軟件堆棧

邊緣服務器將分布在世界各地,以實時處理來自這些傳感器的數據。英偉達EGX是一種超大規模云計算,將全系列的英偉達 AI計算技術與Mellanox安全,網絡和存儲技術相結合。制造,零售,醫療保健和運輸等行業中最大型的公司可以使用EGX,從邊緣到云快速安全地部署AI。

三個特點

可擴展性:EGX具有可擴展性。從微型英偉達 Jetson Nano到英偉達T4服務器,為實時語音識別等實時AI任務提供10000多個TOPS。

企業級:NVIDIA與Red Hat合作,將NVIDIA Edge Stack與領先的企業級Kubernetes容器編排平臺OpenShift集成和優化。

實現混合云和多云物聯網:NVIDIA AI計算由主要云提供,并在架構上與NVIDIA EGX兼容。在云中開發的AI應用程序可以在NVIDIA EGX上運行,反之亦然。NVIDIA Edge Stack連接到主要的云IoT服務,客戶可以從AWS IoT Greengrass和Microsoft Azure IoT Edge遠程管理他們的服務。

英偉達 EGX專為企業和行業而設計,并針對運行企業級Kubernetes容器平臺(如Red Hat Openshift)進行了優化。這些容器平臺已經用英偉達Cloud Stack(一種優化的軟件套件)進行了測試,可簡化GPU加速基礎架構的設置,配置和管理,以運行Tensor RT,Tensor RT推理服務器和NGC英偉達GPU Cloud注冊表。

通過結合使用英偉達 EGX,Red Hat OpenShift和英偉達 Edge Stack,企業可以輕松地為云基礎架構提供優勢。為了實現混合云計算,英偉達 EGX支持的系統和設備可以連接到云IoT服務,客戶可以從AWS IoT Greengrass和Microsoft Azure IoT Edge遠程管理其服務。

歡迎關注ATYUN官方公眾號,商務合作及內容投稿請聯系郵箱:[email protected]

發表評論