1
當人工智能加速芯片成為芯片行業重要發展方向後,新芯片形態、新架構設計層出不窮。初創公司試圖以技術創新爭取優勢,競爭目標指向AI計算領域應用最廣泛的CPU和GPU。
目前,英國初創公司Graphcore在這場AI芯片大戰中佔有突出位置,這家公司提出一種新的處理器架構IPU,即智能處理器,專門用於AI計算/機器學習。其IPU GC2芯片產品已經量產交付,用於各大雲計算廠商的數據中心。推出芯片產品後,Graphcore還提供了相應的軟件開發工具。
GC2由台積電代工,16納米工藝下內含236億個晶體管,Graphcore聲明中稱其是該規模晶體管數量中最複雜的芯片,具有1216個獨立處理器核心和300MB的SRAM。IPU部分負載性能指標領先於GPU,如在自然語言處理方面的速度能夠提升20%到50%;在圖像分類方面,能夠有6倍的吞吐量和更低時延;在一些金融模型方面訓練速度能提高26倍以上。
Graphcore高級副總裁兼中國區總經理盧濤在近日接受界面新聞記者等媒體採訪時稱,Graphcore認為AI是一種全新的計算負載,底層以計算圖作為表徵,但傳統上面嚮應用和網絡的CPU以及面向圖形和高性能計算的GPU,即傳統處理器架構無法滿足AI計算的需要,所以需要一種全新的處理器架構。而Graphcore IPU就是針對AI計算需求而設計的新架構,其設計願景就是為了能在數據中心裏加速AI計算,降低數據中心的整體成本。
AI計算大致分為兩個層面,首先是對模型進行訓練,整個過程可能耗時數天;之後是訓練出的模型響應實際請求,做出推理。目前,英偉達旗下的GPU佔據訓練市場,多數推理任務則仍由傳統的英特爾CPU承擔。“我們期望IPU成為第三個選擇。我們更加期望的是,IPU能夠幫助大家應對一些在當前在GPU、CPU上表現不太好的、或者説是阻礙了大家創新的場景。”盧濤稱。
去年11月,微軟數據中心開始在Azure雲計算服務上使用Graphcore芯片。此外,戴爾的新服務器也開始採用Graphcore芯片。Graphcore聯合創始人兼CEO Nigel Toon表示,Graphcore芯片出貨量已達到數萬規模,用於上百家機構,如英國牛津大學、倫敦帝國理工學院和美國加州伯克利大學。
Graphcore稱,在實際應用上,IPU在運行微軟新冠肺炎影像分析算法SONIC時表現亮眼,據稱能在30分鐘內完成英偉達傳統GPU需5個小時的訓練工作量。在國內,Graphcore與阿里巴巴和百度進行合作,5月20日,Graphcore宣佈成為百度深度學習框架“飛槳”合作伙伴。
盧濤表示,如果用户想訪問Graphcore IPU系統,可以通過購買戴爾服務器或通過微軟雲來訪問IPU資源。在國內,Graphcore和金山雲在合作,即將上線針對中國開發者的雲服務。
在如火如荼的AI計算市場上,英偉達憑藉GPU最先把握住了機會,成為AI企業幾乎不可或缺的芯片供應商。此後,芯片大客户們也更進一步,紛紛推出自研AI專用芯片,包括谷歌、亞馬遜、華為和阿里等科技巨頭也都在過去數年中發佈了自研AI芯片。
初創公司同樣看準機會,意圖以創新架構實現超越,相關新產品百家齊放。除Graphcore以外,此前被英特爾收購的以色列初創公司Habana推出的Goya AI推理處理器和Gaudi AI訓練處理器就獲得市場青睞,以Gaudi為例,其內置RDMA以太網處理單元,數據吞吐量遠超GPU系統。一些半導體公司還瞄準ARM指令集的低功耗特性,試圖在雲計算AI推理應用中替代傳統英特爾CPU芯片,如Ampere。
Graphcore在風險資本的支持下於2016年在英國成立,已獲得4.5億美元的融資,去年估值就達到了17億美元,今年年初估值19.5億美元。其中的投資者既有像紅杉資本這樣的金融投資者,也有像戴爾、三星、微軟等的戰略投資者。Nigel Toon在接受CNBC採訪時稱,Graphcore上一財年營收約為1000萬美元,未來將尋求上市。
從根本上看,AI芯片的市場將取決於AI應用的增長。大廠有互聯網廣告等天然場景,AI需求強,初創企業則需要四處尋路,尋求落地應用。盧濤判斷,在未來,隨着自然語言處理相關應用獲得增長,會催生大量的新型算力需求,增長趨勢可達到指數水平,市場需求尚看不到減弱趨勢。
不過,盧濤同時看到,隨着需求增長和大廠佈局,AI計算領域已初現格局,Graphcore處於挑戰者地位。“在首先全球來看GPU是大規模商用部署,其次是谷歌的TPU通過內部應用及TensorFlow生態佔第二大規模。”他説,“IPU則位於第三,是批量量產的、可部署的平台。這是我們目前所處的位置。”