英偉達DPU計算吞吐量三年將跨越近1000倍！Jetson AI機器人價格低至59美元

雷鋒網消息，10月5日，英偉達召開一年一度的2020 GTC（GPU技術大會）。黃仁勳再次在自家廚房發表了開幕演講，這次演講主要分為4個部分：數據中心、邊緣人工智能、協作工具和醫療保健。

核心亮點包括：

• 數據中心：推出英偉達Blue Field-2 DPU和英偉達Blue Field-2X DPU，具有英偉達Mellanox的所有功能；推出DOCA SDK。

• 邊緣人工智能：宣佈推出英偉達EGX AI平台，使各種規模的組織能夠快速有效地大規模部署人工智能；推出Jetson Nano 2GB開發套件，範圍包括從入門級AI設備到高級平台。

• 協作工具：支持百萬設計師實時合作的開源測試版本Omniverse平台，流媒體視頻AI平台英偉達Maxine。

• 醫療保健：同全球醫療公司GSK及其AI集團合作，正建造供英國醫療人研究人員使用的超級計算機。

新一代DPU加速數據中心

黃仁勳説，當下的數據中心是由軟件定義的，這使得數據中心更加靈活的同時也產生了巨大的負擔，數據中心基礎架構的運行能夠消耗20%-30%的CPU核心，因此需要一種新的處理器，即DPU（Data Processing Unit）。

DPU究竟有什麼作用？根據英偉達官方的解釋，DPU是一種SOC，集三個關鍵要素於一身：

• 行業標準的、最高性能及軟件可編程的多核CPU，通常基於廣泛的Arm架構，與其SOC組件密切配合；

• 高性能網絡接口，能以線速或網絡中的可用速度解析、處理數據，並高效地將數據傳輸到GPU和CPU。

• 各種靈活和可編程的加速引擎，可以卸載AI、機器學習、安全、電信和存儲等應用，並提升性能。

DPU的這些功能對於實現安全的下一代雲上大規模計算至關重要。

基於英偉達今年四月收購的Mellanox的最新研究成果，英偉達推出了兩款DPU產品，英偉達BlueField-2 DPU與BlueField-2X DPU。

據英偉達介紹，BlueField-2 DPU具有英偉達Mellanox Connext-6 SmartNIC的所有特點，並與強大的Arm內核連接在一起，且是可完全編程的，能夠提供每秒200千兆比特的數據傳輸速率，加速關鍵數據中心的安全、網絡和存儲任務。

BlueField-2X DPU則擁有包括BlueField-2 DPU的所有關鍵特性，其特性能夠通過英偉達安培GPU的AI功能得以增強。

為了能夠讓開發人員在DPU加速的數據中心基礎設施服務上構建應用程序，英偉達還推出類似於英偉達CUDA編程模型幫助開發人員構建GPU加速的應用程序——DOCA軟件開發工具包。

值得一提的是，DOCA為開發人員提供了一個全面、開放的平台，完全集成在一個軟件目錄中，能夠為第三方應用程序提供商提供一個方便的軟件環境，利用DPU加速數據中心，並開發、認證和分發應用程序給客户。

黃仁勳宣佈，將在英偉達下一代安培GPU添加新的BlueField-2，用於英偉達AI計算。

此外，黃仁勳還公佈了英偉達DPU的發展路線圖，預計在2023年推出400 TOPS、400Gbps的BlueField-4，這意味着在短短几年內，英偉達DPU的計算吞吐量將跨越近1000倍。

EGX AI平台部署人工智能，民主化的Jetson AI機器人

黃仁勳認為，總有一天數以萬計的人工智能設備和機器人將遍佈家庭、辦公樓、商店等場所，充斥整個地球，“為了支持這一大規模的轉變，英偉達創建了一個加速計算平台，幫助公司實現數據中心的現代化，並在任何地方部署人工智能。”

這裏所説的加速計算平台即英偉達EGX人工智能平台，該平台的系統能夠通過戴爾、聯想、浪潮、超微等領先的服務器製造商獲得。

英偉達還宣佈，EGX平台正在擴大合併英偉達安培GPU和BlueField-2 DPU在單個PCIe卡上的功能，為企業提供了一個共同的平台來構建安全、加速的數據中心。

為了部署和管理EGX服務器，英偉達推出一項名為英偉達艦隊司令部的新服務，將邊緣計算的安全和實時處理能力與遠程管理和軟件服務的易用性結合起來，能夠通過統一的控制平面，集中管理遍佈廣大地區的服務器，包括工廠、醫院、零售店甚至城市街道。據悉，全球供應鏈解決方案的領導者KION集團正在使用英偉達EGX AI平台為其智能倉庫系統開發AI應用程序，提高零售配送中心的吞吐量和效率。

去年，英偉達推出了售價為99美元的Jetson AI計算機，今年擴大Jetson AI在邊緣平台上的入門級開發套件，售價僅為59美元。

據悉，作為Jetson系列的新成員，Jetson Nano 2GB開發人員套件是為教學和學習人工智能的人羣而設計的，其範圍從入門級AI設備到高級平台，用黃仁勳的話講，Jetson AI機器人是民主化的機器人。為了支持人工智能教學，英偉達還宣佈了Jetson免費在線的可用性，補充了許多開源項目，數千名開發人員都活躍在Jetson社區，培訓和獲得人工智能認證。

Booz Allen Hamilton分析和人工智能研究主任Drew Farris説：“在Booz Allen，我們尋求增強人們改變世界的能力。我們正在使用英偉達 Jetson來培訓新的技術資源，因為人工智能對於企業和人員來説至關重要，利用人工智能來解決最困難的全球問題挑戰。”

安培架構拓展至專業視覺產品線，Omniverse構建元宇宙

除了在數據中心和邊緣人工智能方面取得的進展，英偉達還宣佈推出協作工具Omniverse平台的開放測試版本和AI數據流平台Maxine，構建致力於AI醫療研究的超級計算機“劍橋1”。此外，英偉代還在GCT fall上宣佈延展至專業視覺產品線的安培架構。

Omniverse是世界上第一個基於英偉達RTX的三維仿真和協作平台，它融合了物理和虛擬世界，實時模擬現實，並具有真實感的細節。“Omniverse允許設計師、藝術家、創作者甚至人工智能在不同的世界中使用不同的工具，在一個共同的世界中連接合作，共同創造一個世界。”黃仁勳説。

使用Maxine，開發人員可以減少視頻帶寬消耗，降低供應商成本名為終端用户提供能流暢的視頻會議體驗，改善視頻會議的經驗。

除了提高普通流媒體的用户體驗，英偉達在GCT Fall上宣佈，正在與AWS展開合作，發佈英偉達CloudXR，並在Amazon EC2 P3和G4上可用。據悉，英偉達CloudXR平台包括 CloudXR軟件開發工具包、Quadro虛擬工作站軟件和AI SDK。藉助雲流式的體驗，專業人員可以輕鬆設置、擴展和訪問來自任何地方身臨其境的體驗，不再受到VR環境的限制。

在GCT Fall上，英偉達還宣佈推出面向專業設計師的Quadro RTX A6000和英偉達A40 GPU，與上一代產品相比，新一代GPU具有新的RT核心、Tensor核心和CUDA核心，加快了圖形渲染和AI的速度。

最後，值得注意的是，在此次演講中，黃仁勳也提到了英偉達與Arm的關係，宣佈了推進Arm平台重大舉措：

• 首先，英偉達將用GPU、網絡、存儲和安全技術補充Arm的業務，創建完整的加速平台。

• 第二，英偉達正在與Arm合作伙伴合作，為HPC、雲、邊緣和PC創建平台，這需要芯片、系統和系統軟件。

• 第三，英偉達正在將AI和RTX引擎移植到Arm。

“今天，這些功能只能在x86上使用，有了這一舉措，Arm平台也將在加速和AI計算方面的領先地位。”黃仁勳説。

圖片源自英偉達

雷鋒網雷鋒網雷鋒網