芯東西
編 | 温淑
芯東西6月1日消息,近日,微軟機器學習科學家展示了英國AI芯片明星創企Graphcore自研AI芯片的加速效果,該芯片在運行微軟新冠肺炎影像分析算法SONIC時表現亮眼,據稱能在30分鐘內完成NVIDIA傳統芯片需5個小時的訓練工作量。
兩週前,NVIDIA發佈了其最新AI芯片A100。Graphcore CEO Nigel Toon稱,Graphcore第二代處理器將在今年晚些時候發佈,並預計其性能將超過NVIDIA A100。
科技媒體ZDNet認為,在未來,像Graphcore這樣的並行計算芯片或可用於支持最先進的神經網絡,有可能為NVIDIA等傳統芯片巨頭帶來威脅。
一、Graphcore獲超過4.5億美元風投,或有上市計劃
英國AI芯片初創公司Graphcore成立於2016年,總部位於英國布里斯托爾市。目前,Graphcore已經籌集了超過4.5億美元的風險投資基金,其中包括二月份D輪融資的1.5億美元。最近一次注資後,Graphcore的估值為略低於20億美元;截至今年二月份,Graphcore在銀行的資產為3億美元。
Toon透露,Graphcore的投資者包括“一些科技公開市場中最大的投資者”,比如英國投資管理公司Baillie Gifford,以及微軟公司、博世公司、寶馬公司和谷歌DeepMind AI部門聯合創始人Demis Hassabis等。
“像Baillie Gifford這樣的公司投資了Graphcore,顯然是因為預料到我們可能在未來的某個時間點上市。”Toon説。目前,Toon並未透露公司具體上市時間。
二、IPU架構:1216個IPU內核、片上內存帶寬45TB/s
現有計算機常按時序執行任務,即先做一件事、然後再做下一件事,而AI算法存在大量重複性簡單計算任務,用並行計算效率更高。
對此,Graphcore的智能處理單元(IPU)採用自研大規模並行同構多核架構,包含1216個獨立IPU核心。
▲Graphcore IPU由1216個並行運算的IPU核心組成
隨着計算速度需求不斷提升,AI芯片還需要更高的內存容量和帶寬。
由於從GPU到計算機主存儲器的速度遠比不了片上內存訪問的速度,Graphcore在IPU架構中採用大量片上內存,容量為300 MB,帶寬達45 TB/s。
三、30分鐘內完成訓練,NVIDIA傳統芯片需花5小時
在Intelligent Health 2020峯會上,微軟機器學習科學家Sujeeth Bharadwaj展示了他對Graphcore芯片的應用。Bharadwaj使SONIC神經網絡在Graphcore芯片上運行,並將其用於識別新冠肺炎患者的胸透圖像。
系統運行結果顯示,Graphcore芯片可在30分鐘內完成NVIDIA的傳統芯片5個小時的訓練工作量。
Bharadwaj稱,運行結果顯示SONIC神經網絡和Graphcore芯片之間形成了“非常強大的協同作用”。
▲Sujeeth Bharadwaj展示SONIC神經網絡和Graphcore芯片的應用
Graphcore CEO Toon認為,以SONIC神經網絡為例,IPU將能夠用於開發頂尖AI模型。“我認為IPU能夠幫助創新者做到的一件事是創建下一代圖像感知模型,使它們運行起來更加準確、更加高效。”他説。
另外,Toon稱,IPU除了被設計用於支持機器視覺這類複雜的算法外,還適用於加速自然語言處理等存在稀疏化的模型。
對於Graphcore IPU的性能,Toon表示出信心,認為第二代IPU有可能超過NVIDIA的A100。
對此,芯片行業媒體Microprocessor Report編輯Linley Gwennap表示懷疑。他認為,NVIDIA的產品的性能標準“遠遠超過所有的現有產品”,其他競爭者難以超越。Gwennap對英特爾收購的Habana也表示看好,他稱Habana芯片的基準測試結果優於NVIDIA V100和Graphcore的產品。“一旦英特爾將其龐大的AI軟件棧覆蓋到Habana硬件,這種組合將遠遠勝過任何初創公司的平台。”他説。
結語:Graphcore能成為新的AI芯片領跑者嗎?
早在神秘的潛心研發階段,Graphcore就因曾獲得微軟、寶馬、戴爾、三星等巨頭的融資而備受矚目,成為英國盛名在外的AI芯片明星創企之一。
成立僅有4年的Graphcore成長速度已算驚人。其IPU芯片擁有超過1000個獨立IPU核,並且激進地採用了大量片上內存單元,同時為AI訓練和推理提供超快的加速計算能力。
就最新微軟機器學習科學家展示的新冠肺炎影像分析算法示例來看,Graphcore能做到10倍於NVIDIA傳統芯片的訓練速度,但暫不清楚具體是和哪款NVIDIA GPU進行的比較。
繼去年11月與微軟達成合作,發佈微軟雲Azure上的IPU預覽版外,Graphcore還於今年5月的Wave Summit 2020深度學習開發者峯會上,宣佈成為百度飛槳硬件生態圈共建計劃夥伴之一,加速機器視覺、自然語言處理等算法模型與硬件的適配與落地。
總體來看,Graphcore在IPU架構上融合了相當多的創新精神,並於過去半年着力將產品推向中美雲端AI市場,而Graphcore的AI芯片在落地實踐中效果究竟如何,還有待市場的檢驗。