AI訓練和推理芯片落地超算!這家創企明年推新訓練芯片,性能提升超2倍

AI訓練和推理芯片落地超算!這家創企明年推新訓練芯片,性能提升超2倍

西(公眾號:aichip001

作者 | 高歌

編輯 |

芯東西4月13日報道,今日,被英特爾收購的知名以色列AI芯片公司Habana Labs在北京分享了其雲端芯片在超算領域的最新落地進展:其AI訓練芯片及推理芯片將被搭載於美國加州大學聖地亞哥分校聖地亞哥超級計算機中心(SDSC)的Voyager超級計算機,計劃在2021年秋季投入使用。

期間,Habana Labs中國區總經理於明揚與芯東西等媒體進行深入交流。除了披露更多此次落地進展的細節外,於明揚還回應了被英特爾收購後的業務路線變化,並透露下一代雲端訓練芯片的性能表現。

AI訓練和推理芯片落地超算!這家創企明年推新訓練芯片,性能提升超2倍
一、美國超算中心採用,打入科研領域

Habana Labs創立於2016年,總部位於以色列特拉維夫,2019年被英特爾以20億美元收購,成為英特爾數據產品集團獨立運營的業務部門。

此前,其自研雲端AI推理芯片Goya和雲端AI訓練芯片Gaudi已被雲計算巨頭亞馬遜AWS應用。

如今,兩款芯片迎來新的落地進展,加州大學聖地亞哥分校的聖地亞哥超級計算機中心(SDSC)將在其Voyager超級計算機中採用這兩款芯片,這也是Habana Labs在科研領域的一次突破。

Voyager超算由美國國家科學基金(NSF)資助,從事天文學、氣候科學、化學、粒子物理學等跨學科和工程領域的AI研究。例如在天文學,AI可以被用於對比外太空圖像和判斷是否有新的太空物質出現。

而Habana Labs的訓練及推理芯片將為這些研究起到加速計算的作用。

Voyager集羣採用了336片Gaudi芯片用於AI訓練,每個訓練節點使用了6個400GbE RoCE的高速互聯,推理預測採用了16片Goya芯片,預計今年10月可供研究人員使用。

據於明揚分享,Gaudi和Goya提升了Voyager超算AI工作的性能和效率,使研究人員能夠使用可編程張量處理器內核和內核庫定製模型。

其中,Gaudi內置集成了10個支持RoCE v2(RDMA over Converged Ethernet)100G以太網端口,可以提升擴展的靈活性,避免擴展能力受於限吞吐量。如果搭配Habana的SynapseAI軟件平台,使用者操作起來將更加便捷。

於明揚提到,作為一家初創公司,Habana Labs的產品細節還有待提升,其市場戰略基本是選擇主流的雲廠商進行合作,通過與有代表性的用户進行合作,來打磨、完善產品。

AI訓練和推理芯片落地超算!這家創企明年推新訓練芯片,性能提升超2倍
二、背靠英特爾生態,仍獨立運營

在被問到與英特爾相關的問題時,於明揚回應,Habana Labs仍然作為一家獨立公司運營,其市場戰略依舊比較獨立,也可以及時對用户的問題進行反饋。英特爾為Habana Labs提供了很多客户資源,也使Habana Labs在業內的口碑有所上升。

同時,客户在選擇AI芯片時,往往優先選擇符合其處理器架構的芯片。在英特爾收購Habana Labs後,雙方在生態上有所協同,英特爾的x86處理器也為Habana Labs帶來了部分用户。

Habana Labs在被收購後,其技術路線圖也沒有發生太大的改變,其軟件生態也會在模型、工具等方面有很大的進步,還將提供預處理等新功能。

於明揚還特別講到,因為英特爾的代工業務剛剛起步,所以近兩年Habana Labs暫時不會選擇英特爾代工,雙方會逐步開展更多的合作。

三、預告下一代訓練芯片,性能提升超2倍

此前,在AI芯片的訓練端,英偉達旗下的GPU(圖形處理器)可謂一家獨大。而Habana Labs的Gaudi則對這一現狀發起了挑戰。

於明揚稱,Habana Labs的Gaudi芯片與英偉達的旗艦GPU A100相比,雖然性能上還略有不如,但是在性價比上已經實現了超越。他提到,Habana Gaudi基本上已經能夠達到A100 70%的性能,而價格則只有A100的一半,這使得很多客户在實際體驗後選擇了Habana Gaudi。

Habana Labs預計將於明年上半年推出下一代AI芯片,代號為Gaudi 2,將採用台積電7nm製程工藝。與現有的Gaudi芯片相比,Gaudi 2將會有兩倍以上的性能提升。

最後,於明揚談到了未來AI芯片的發展趨勢。他認為,異構計算將會是未來芯片的發展方向,GPU、FPGA、ASIC等各類芯片將會根據特點不同,在計算集羣中擔任不同的任務。而未來的挑戰就是如何將不同的任務,部署到最合適的架構上。

結語:背靠英特爾,提升市場競爭力

在加入英特爾的整個生態體系後,Habana Labs的客户資源得到了提升,在產品性價比不錯的前提下,為當今的AI芯片市場提供了一種新的選擇。而英特爾也藉此豐富了自己的武器庫,加強了自己在AI芯片領域的實力。在於明揚看來,SDSC作為美國少數超算中心之一,選擇Habana Gaudi、Goya,某種程度上説明SDSC看好ASIC芯片在超算集羣中的應用前景,也證明Habana Labs的產品在科研領域有一定的發展潛力。

隨着Habana Labs產品細節的完善,其AI芯片的市場競爭力也在不斷提升,可能會對英偉達在AI訓練等領域的地位發起挑戰。

版權聲明:本文源自 網絡, 於,由 楠木軒 整理發佈,共 2081 字。

轉載請註明: AI訓練和推理芯片落地超算!這家創企明年推新訓練芯片,性能提升超2倍 - 楠木軒