就在剛剛!備受全球矚目的權威AI基準測試MLPerf公佈了今年最新的推理測試榜單。浪潮AI服務器NF5488A5一舉創造18項性能紀錄,問鼎最強"AI機王"。
也許你不知道MLPerf在當前全球AI發展中意味着什麼,它可謂是最具影響力的AI計算基準評測組織,由圖靈獎得主大衞·帕特森(David Patterson)聯合谷歌、斯坦福、哈佛大學等單位共同成立,每年組織全球AI訓練和AI推理性能測試併發榜。
浪潮AI服務器NF5488A5在此次測試中戰績彪炳,一舉創造18項MLPerf推理性能新紀錄,成為創紀錄最多的AI服務器。
浪潮NF5488A5創造18項MLPerf推理性能紀錄
今年的測試中,數據中心AI性能最受關注,全部參與機構提交了507項性能測試數據。浪潮NF5488A5創下了數據中心22個賽項中的13項性能紀錄,以絕對優勢領先。而在此前的MLPerf訓練榜單中,NF5488A5在最核心的Resnet50訓練任務中也創下了性能新紀錄,單機性能高居榜首!
在這次基準測試中,浪潮AI服務器NF5488A5在開放優化(Open)和固定任務(Closed)的ResNet50基準性能測試中,均表現優異,相比2019年MLPerf推理榜單的服務器最好性能提升高達3倍。
MLPerf ResNet50推理性能2019 VS 2020對比
NF5488A5還是這次MLPerf全球競賽中唯一可以在4U空間內支持8塊安培架構A100芯片實現NVLink高速互聯的AI服務器。
浪潮NF5488A5在系統拓撲上採用了超低延遲設計,支持PCIe 4.0全鏈路極致優化,高頻通信單元採用一級拓撲最近連接,最大限度提升處理器到AI芯片間的通信性能。
在這次基準測試中,浪潮展示出了卓越的AI計算軟硬件協同優化能力。
硬件層面,通過對CPU、GPU硬件性能的精細校準和全面優化,使CPU性能、GPU性能、CPU與GPU之間的數據通路均處於對AI推理最優狀態;
軟件層面,結合GPU硬件拓撲對多GPU的輪詢調度優化使單卡至多卡性能達到了近似線性擴展;
深度學習算法層面,結合GPU Tensor Core 單元的計算特徵,通過自研通道壓縮算法成功實現了模型的極致性能優化,在精度無損的情況下性能提升近2倍。
忍不住為浪潮點贊!作為全球領先的AI計算領導廠商,浪潮AI服務器在中國的市場份額已連續三年保持在50%以上,市場的肯定便是浪潮AI服務器實力的最好證明!