楠木軒

OEM發佈首批用於處理AI負載的NVIDIA認證系統

由 鈄翠娥 發佈於 科技

AI是這個時代強大的技術,需要新一代經過調整和測試的計算機來推動其發展。OEM廠商可從NVIDIA合作伙伴處獲取用於數據中心的新型加速服務器,推動AI和數據分析的發展。系統製造商正在交付首批NVIDIA認證系統,它們是目前業內唯一通過現代工作負載測試的服務器。

認證計劃標誌着全球首批加速服務器通過測試,能夠用於機器學習和分析

得益於使用NVIDIA Mellanox網絡連接的NVIDIA最新GPU,這些系統能夠為AI提速。它們能夠加快機器學習的速度,從不斷增長的企業數據堆中挖掘洞察,尋找傳統系統遺漏的“寶藏”。

戴爾科技、技嘉、慧與、浪潮和超微的認證服務器均於今日供貨。NVIDIA與全球OEM廠商合作,推動AI在各行各業的發展。

首批使用NVIDIA A100 Tensor Core GPU的系統包括:

● 戴爾EMC PowerEdge R7525和R740機架服務器

● 技嘉R281-G30、R282-Z96、G242-Z11、G482-Z54、G492-Z51系統

● 慧與 Apollo 6500 Gen10系統和慧與 ProLiant DL380 Gen10服務器

● 浪潮 NF5488A5

● 超微A+服務器AS-4124GS-TNR和AS-2124GQ-NART

這些產品都帶有NVIDIA認證系統標識,向客户證明了其所購買的系統符合NVIDIA最佳設計範例。同時,也代表這些系統可以處理機器學習、數據分析等領域最棘手的任務。

加速服務器製造商發佈NVIDIA認證系統

企業AI的轉折點

這些系統的出現源於領先企業對AI領域的日益關注。

美國運通正在使用最新的AI模型進行實時欺詐檢測。福特使用生成式對抗網絡生成測試自動駕駛汽車所需的數據。達美樂使用AI改進其每年30億份披薩訂單完成時間的預測。

除了上述公司之外,還有許多公司也在採用這種誕生於網絡的強大新型計算方式。如今,它正在向零售、物流、銀行和醫療健康等行業普及。

根據Gartner,目前37%的企業機構在生產中使用了AI,預計到2024年這一比例將翻倍至75%。

擴展大數據堆

各企業正從不斷增加的數據中,總結出隱藏的戰略洞察。例如,沃爾瑪每小時要處理超過2.5PB的數據。

在短短5年內,篩選這些數據的AI模型規模增長了近3萬倍,推動了對加速計算的需求。同時,使用這些數據的模型和工作負載的多樣性也在不斷擴大。因此,企業需要更加靈活的GPU。

日益增加的數據量和不斷擴大的AI數據篩選模型,導致數據中心和網絡邊緣的網絡流量呈指數級增長。為了解決這一問題,企業需要一個安全、可靠、高速並且能夠有效擴展的基礎設施。

通過AI測試

NVIDIA認證系統提供企業AI所需的性能、可編程性和安全吞吐量。這些系統結合了基於NVIDIA Ampere架構的GPU計算力與安全、高速的NVIDIA Mellanox網絡。

為了通過認證,這些系統必須接受廣泛的工作負載測試,涵蓋從需要多個計算節點的工作到只需要使用單個GPU部分性能的任務等。

這些系統均經過優化,可以運行NVIDIA GPU優化應用中心——NGC目錄中的AI應用。

NGC是一個不斷擴大的軟件開發套件中心,這些套件可以將AI引入醫療健康(Clara)和機器人(Isaac)等垂直市場。此外,它還包含幫助企業在推薦系統(Merlin)和智能視頻分析(Metropolis)等新興用例中起步的框架。

具體而言,NVIDIA認證系統必須通過以下測試:

● 深度學習訓練和推理

● 機器學習算法

● 智能視頻分析

● 網絡和存儲卸載

這些測試基於現實世界中的用例,使用的是NGC目錄中常用的AI框架和容器。

因此,通過NVIDIA認證系統,每家公司都能使用全球最強大AI計算機背後相同的硬件和軟件。

全球最大的雲服務提供商和全球十大超級計算機中的八台均由NVIDIA技術驅動。採用NVIDIA技術的系統在MLPerf等AI基準測試中處於領先地位。

探索背後的奧秘

NVIDIA認證系統包括功能強大的數據中心服務器,該服務器內置多達8個A100 GPU和高速InfiniBand或以太網網卡。此外,還有為在企業網絡邊緣運行AI而量身定製的主流AI系統。

OEM廠商對使用NVIDIA Mellanox電纜、交換機和網卡(如ConnectX-6 InfiniBand或以太網網卡和BlueField-2 DPU)的系統進行認證。除了能夠同時保證低延遲與高吞吐量外,這些網卡還支持從啓動時的硬件信任根,到應用連接追蹤等多層網絡安全措施。

所有使用NVIDIA Mellanox 8700 HDR 200G InfiniBand交換機或Mellanox SN3700以太網交換機的系統均已獲得認證。

所有NVIDIA認證系統均可提供涵蓋整個軟件堆棧的企業級支持,包括對開源代碼的支持。這是因為NVIDIA希望確保所有垂直市場中的企業都能迅速享受到AI所帶來的益處。

憑藉戴爾科技、技嘉、慧與、浪潮和超微的最新系統,每家公司都可以開始自身企業的AI轉型之路。

截至目前,來自6家系統制造商的14台服務器已通過認證,以提供加速計算。至少有11家系統制造商的近70個系統參與了這一認證計劃。

(7623767)