英偉達DPU計算吞吐量三年將跨越近1000倍!Jetson AI機器人價格低至59美元

雷鋒網訊息,10月5日,英偉達召開一年一度的2020 GTC(GPU技術大會)。黃仁勳再次在自家廚房發表了開幕演講,這次演講主要分為4個部分:資料中心、邊緣人工智慧、協作工具和醫療保健。

英偉達DPU計算吞吐量三年將跨越近1000倍!Jetson AI機器人價格低至59美元

核心亮點包括:

  • 資料中心:推出英偉達Blue Field-2 DPU和英偉達Blue Field-2X DPU,具有英偉達Mellanox的所有功能;推出DOCA SDK。

  • 邊緣人工智慧:宣佈推出英偉達EGX AI平臺,使各種規模的組織能夠快速有效地大規模部署人工智慧;推出Jetson Nano 2GB開發套件,範圍包括從入門級AI裝置到高階平臺。

  • 協作工具:支援百萬設計師實時合作的開源測試版本Omniverse平臺,流媒體影片AI平臺英偉達Maxine。

  • 醫療保健:同全球醫療公司GSK及其AI集團合作,正建造供英國醫療人研究人員使用的超級計算機。

新一代DPU加速資料中心

黃仁勳說,當下的資料中心是由軟體定義的,這使得資料中心更加靈活的同時也產生了巨大的負擔,資料中心基礎架構的執行能夠消耗20%-30%的CPU核心,因此需要一種新的處理器,即DPU(Data Processing Unit)。

英偉達DPU計算吞吐量三年將跨越近1000倍!Jetson AI機器人價格低至59美元

DPU究竟有什麼作用?根據英偉達官方的解釋,DPU是一種SOC,集三個關鍵要素於一身:

  • 行業標準的、最高效能及軟體可程式設計的多核CPU,通常基於廣泛的Arm架構,與其SOC元件密切配合;

  • 高效能網路介面,能以線速或網路中的可用速度解析、處理資料,並高效地將資料傳輸到GPU和CPU。

  • 各種靈活和可程式設計的加速引擎,可以解除安裝AI、機器學習、安全、電信和儲存等應用,並提升效能。

DPU的這些功能對於實現安全的下一代雲上大規模計算至關重要。

基於英偉達今年四月收購的Mellanox的最新研究成果,英偉達推出了兩款DPU產品,英偉達BlueField-2 DPU與BlueField-2X DPU。

英偉達DPU計算吞吐量三年將跨越近1000倍!Jetson AI機器人價格低至59美元

英偉達DPU計算吞吐量三年將跨越近1000倍!Jetson AI機器人價格低至59美元

據英偉達介紹,BlueField-2 DPU具有英偉達Mellanox Connext-6 SmartNIC的所有特點,並與強大的Arm核心連線在一起,且是可完全程式設計的,能夠提供每秒200千兆位元的資料傳輸速率,加速關鍵資料中心的安全、網路和儲存任務。

BlueField-2X DPU則擁有包括BlueField-2 DPU的所有關鍵特性,其特效能夠透過英偉達安培GPU的AI功能得以增強。

為了能夠讓開發人員在DPU加速的資料中心基礎設施服務上構建應用程式,英偉達還推出類似於英偉達CUDA程式設計模型幫助開發人員構建GPU加速的應用程式——DOCA軟體開發工具包。

英偉達DPU計算吞吐量三年將跨越近1000倍!Jetson AI機器人價格低至59美元

值得一提的是,DOCA為開發人員提供了一個全面、開放的平臺,完全整合在一個軟體目錄中,能夠為第三方應用程式提供商提供一個方便的軟體環境,利用DPU加速資料中心,並開發、認證和分發應用程式給客戶。

黃仁勳宣佈,將在英偉達下一代安培GPU新增新的BlueField-2,用於英偉達AI計算。

此外,黃仁勳還公佈了英偉達DPU的發展路線圖,預計在2023年推出400 TOPS、400Gbps的BlueField-4,這意味著在短短几年內,英偉達DPU的計算吞吐量將跨越近1000倍。

英偉達DPU計算吞吐量三年將跨越近1000倍!Jetson AI機器人價格低至59美元

EGX AI平臺部署人工智慧,民主化的Jetson AI機器人

黃仁勳認為,總有一天數以萬計的人工智慧裝置和機器人將遍佈家庭、辦公樓、商店等場所,充斥整個地球,“為了支援這一大規模的轉變,英偉達建立了一個加速計算平臺,幫助公司實現資料中心的現代化,並在任何地方部署人工智慧。”

這裡所說的加速計算平臺即英偉達EGX人工智慧平臺,該平臺的系統能夠透過戴爾、聯想、浪潮、超微等領先的伺服器製造商獲得。

英偉達DPU計算吞吐量三年將跨越近1000倍!Jetson AI機器人價格低至59美元

英偉達還宣佈,EGX平臺正在擴大合併英偉達安培GPU和BlueField-2 DPU在單個PCIe卡上的功能,為企業提供了一個共同的平臺來構建安全、加速的資料中心。

為了部署和管理EGX伺服器,英偉達推出一項名為英偉達艦隊司令部的新服務,將邊緣計算的安全和實時處理能力與遠端管理和軟體服務的易用性結合起來,能夠透過統一的控制平面,集中管理遍佈廣大地區的伺服器,包括工廠、醫院、零售店甚至城市街道。據悉,全球供應鏈解決方案的領導者KION集團正在使用英偉達EGX AI平臺為其智慧倉庫系統開發AI應用程式,提高零售配送中心的吞吐量和效率。

去年,英偉達推出了售價為99美元的Jetson AI計算機,今年擴大Jetson AI在邊緣平臺上的入門級開發套件,售價僅為59美元。

英偉達DPU計算吞吐量三年將跨越近1000倍!Jetson AI機器人價格低至59美元

據悉,作為Jetson系列的新成員,Jetson Nano 2GB開發人員套件是為教學和學習人工智慧的人群而設計的,其範圍從入門級AI裝置到高階平臺,用黃仁勳的話講,Jetson AI機器人是民主化的機器人。為了支援人工智慧教學,英偉達還宣佈了Jetson免費線上的可用性,補充了許多開源專案,數千名開發人員都活躍在Jetson社群,培訓和獲得人工智慧認證。

Booz Allen Hamilton分析和人工智慧研究主任Drew Farris說:“在Booz Allen,我們尋求增強人們改變世界的能力。我們正在使用英偉達 Jetson來培訓新的技術資源,因為人工智慧對於企業和人員來說至關重要,利用人工智慧來解決最困難的全球問題挑戰。”

安培架構拓展至專業視覺產品線,Omniverse構建元宇宙

除了在資料中心和邊緣人工智慧方面取得的進展,英偉達還宣佈推出協作工具Omniverse平臺的開放測試版本和AI資料流平臺Maxine,構建致力於AI醫療研究的超級計算機“劍橋1”。此外,英偉代還在GCT fall上宣佈延展至專業視覺產品線的安培架構。

英偉達DPU計算吞吐量三年將跨越近1000倍!Jetson AI機器人價格低至59美元

Omniverse是世界上第一個基於英偉達RTX的三維模擬和協作平臺,它融合了物理和虛擬世界,實時模擬現實,並具有真實感的細節。“Omniverse允許設計師、藝術家、創作者甚至人工智慧在不同的世界中使用不同的工具,在一個共同的世界中連接合作,共同創造一個世界。”黃仁勳說。

使用Maxine,開發人員可以減少影片頻寬消耗,降低供應商成本名為終端使用者提供能流暢的視訊會議體驗,改善視訊會議的經驗。

除了提高普通流媒體的使用者體驗,英偉達在GCT Fall上宣佈,正在與AWS展開合作,釋出英偉達CloudXR,並在Amazon EC2 P3和G4上可用。據悉,英偉達CloudXR平臺包括 CloudXR軟體開發工具包、Quadro虛擬工作站軟體和AI SDK。藉助雲流式的體驗,專業人員可以輕鬆設定、擴充套件和訪問來自任何地方身臨其境的體驗,不再受到VR環境的限制。

在GCT Fall上,英偉達還宣佈推出面向專業設計師的Quadro RTX A6000和英偉達A40 GPU,與上一代產品相比,新一代GPU具有新的RT核心、Tensor核心和CUDA核心,加快了圖形渲染和AI的速度。

最後,值得注意的是,在此次演講中,黃仁勳也提到了英偉達與Arm的關係,宣佈了推進Arm平臺重大舉措:

  • 首先,英偉達將用GPU、網路、儲存和安全技術補充Arm的業務,建立完整的加速平臺。

  • 第二,英偉達正在與Arm合作伙伴合作,為HPC、雲、邊緣和PC建立平臺,這需要晶片、系統和系統軟體。

  • 第三,英偉達正在將AI和RTX引擎移植到Arm。

“今天,這些功能只能在x86上使用,有了這一舉措,Arm平臺也將在加速和AI計算方面的領先地位。”黃仁勳說。

圖片源自英偉達

雷鋒網雷鋒網雷鋒網


版權宣告:本文源自 網路, 於,由 楠木軒 整理釋出,共 3023 字。

轉載請註明: 英偉達DPU計算吞吐量三年將跨越近1000倍!Jetson AI機器人價格低至59美元 - 楠木軒