海歸教授創辦類腦晶片公司,即將全球首發量產,功耗可降低100-1000倍
在馮諾伊曼架構中,大量資料搬運會帶來功耗、效率等記憶體牆問題及靈活性問題,為克服該問題,近年來出現了存內計算、可重構晶片架構、異構等晶片架構,力圖在 Memory 端打破儲存牆限制,讓能效有 1-2 個數量級的提升。
12 月 4 日,在 SynSense 時識科技主辦的 2020 年類腦技術開放日會上,DeepTech 藉機採訪到了 SynSense 創始人喬寧。據悉他從中科院博士畢業後,於 2012 年前往蘇黎世大學做博士後研究,之後轉做助理教授,一直專注於超低功耗亞閾型類比電路加非同步電路的類腦相關研究。
因此,SynSense 時識科技的核心技術也起源於蘇黎世大學與蘇黎世聯邦理工學院,涉及先進的數模混合神經形態處理器與神經形態演算法研發成果,創始成員在 Nature/Science 等頂刊及類腦頂級國際會議期刊已發表過 700 + 篇論文 、引用量近 16000 次。
中外科學家攜手創業
談及創業初衷,喬寧表示:“類腦晶片,實現了演算法層面包括晶片架構層面的全新變革。首先,類腦計算基於全新的演算法;其次,全並行的運算架構打破了馮諾伊曼架構的束縛;另外,事件驅動的運算機制導致整個類腦系統在效能上有質的提升。所以,這不僅僅依賴於計算機理論體系,更融合了生物學理論體系,透過模仿神經元突觸、神經脈衝等生物行為的工作機制,實現晶片在演算法及架構的顛覆性創新,從而帶來效能、功耗、延時等方面有極大提升。”
2017 年,喬寧和 Giacomo Indiveri 共同創立該公司,後者擔任聯合創始人兼首席科學家,其還是蘇黎世大學與蘇黎世聯邦理工學院終身教授、蘇黎世神經資訊研究所 INI 所長。兩者的攜手創業,都是出於對類腦晶片技術發展的看好。目標是為一系列 AI 邊緣運算應用場景提供開創性的亞毫瓦級超低功耗、超低延時的晶片設計及解決方案。
而談到該公司更深的淵源,其實還與一位教父級人物有關。神經形態計算(Neuromorphic Computing)被稱為類腦計算,該概念最早來自於加州理工學院的超大規模積體電路之父、摩爾定律的提出者之一卡弗?米德(Carver Mead )教授。
1995 年~1996 年期間,卡弗?米德的 6 個學生來到蘇黎世大學,併成立了神經資訊研究所,其中主要包含三位學者三個方向,分別是做動態視覺感測器(Dynamic Vision Sensor)的 Tobi Delbruck、做矽耳專案(Silicon cochlea)的 Shih-Chii Liu,以及做類腦晶片研究的 Giacomo Indiveri。
那時,Giacomo Indiveri 在卡弗?米德課題組裡主攻神經擬態工程相關研究,他利用工作在亞閾值的電晶體的電學特性,來模擬生物神經元及突觸的工作機制,這一研究方向的發展主要依賴於亞閾值類比電路和純非同步數位電路,相關研究積累為現在 SynSense時識科技的核心技術領先性提供了保障。
目前,除了SynSense時識科技之外,世界上有兩家科技巨頭在類腦晶片領域有所探索,IBM 曾於 2014 年推出 True North 晶片,Intel 於 2016 年設計了非同步脈衝神經形態晶片 Loihi,而量產的可商用的類腦晶片,市場上其實還沒有。
功耗降低 100-1000 倍
對於該公司的晶片,Giacomo Indiveri 教授表示:“我們的類腦晶片目的並不是要取代 CPU 和 GPU,而是要提供可以放在機器人和物聯網終端裝置的實時感測,是一個非常低功率,緊湊而小型的計算單元。”
做 AI 技術的歷代科學家,雖沒有承認自己做神經形態計算或者類腦計算,但其實也是在想從 “腦” 再挖掘點東西。Google \"TPU\"、百度 “崑崙”、阿里平頭哥 “含光”、寒武紀 “思元” 等 AI 晶片都在尋找提升 AI 能力的可能性。
談及類腦晶片的最大優勢,喬寧介紹,類腦技術可以做出不耗電的實時感測器資訊處理系統。在物聯網端上,感測器對環境資訊提取模擬訊號通常是第一步,在靠近感測端,把動態的資訊先離散化數字化,只有動態資訊發生的時候,才會實時生成資料,而處理器只能被動的由資料驅動運算(Data-driven computing)。”
而SynSense時識科技提出的全新方案 —— 事件處理器(Event Processor),這類處理器晶片運算機制是基於脈衝 / 事件觸發的運算,可以用於一維的實時感測器訊號分析或是二維的影象訊號處理,事件觸發及資料驅動運算,將能使整個感測器系統在沒有動態資訊發生時完全不耗電。
顛覆傳統晶片的技術路徑——不耗電的事件處理器
喬寧認為,從晶片的電路實現上,類腦晶片的形態可以分為幾種:
一是同步電路晶片,這主要是透過 EDA、透過傳統的電路來設計;
二是同步電路與非同步電路混搭,比如在類腦晶片中利用同步電路實現單核設計、利用非同步電路完成多核的通訊;
三是純非同步電路實現,不管單核運算或者多核互動,裡面所有的運算及通訊單元都遵循事件觸發的機制;
第四種更高階的形態,則是非同步電路加亞閾值模擬計算。在這種最高階的研究中,蘇黎世神經資訊研究所有多年的深入研究及積累,他們最新的處理器晶片在 28nm 的工藝下,利用電晶體亞閾值模擬特性模擬生物形態的曲線,利用 pA 到 nA 級電流完成神經網路計算,能效較純數字解決方案有 1-2 個量級的提升。
類腦晶片的另一個重要特徵是實時性,它可以處理的最佳事件型別不是雲端運算,而是端上的感測器資訊,例如語音或手勢識別或心跳生物訊號。
Giacomo Indiveri 教授補充稱:“這些端上的實時的感測資訊是我們的晶片最適合處理的訊號,具有可配置的動態引數來匹配環境感測器的動態資訊,在近感測器的晶片端完成運算及決策,不需要與雲端產生傳輸資料。這就是為什麼我們可以以低頻寬、低功耗來高效處理這些實時資訊的原因。”
在可擴充套件性上,SynSense 研發的 DYNAP-CNN,是世界上第一款直接能對接事件相機的專用視覺處理器,晶片具有極強的可配置性,可以支援複雜大規模 SCNN 模型及演算法。
其基於相機事件觸發的運算機制打破了幀的限制,可以實現 5-10ms 端到端識別響應延時;基於稀鬆資料的動態資料運算,可以實現 < 1mW 超低功耗,較傳統解決方案功耗降低 100-1000 倍。
在系統級上,因為基於感測器 — 處理器直接對接的實時資料運算,無需快取、系統成本降低 50%,整個系統級基於感測器資料觸發運算,可以實現真正的 always-on,可廣泛落地於智慧家居人機互動、智慧機器人、可穿戴裝置、智慧安防、工業網際網路等領域。
除了視覺之外,SynSense 團隊還專注於低維度的感測資訊處理,這類晶片裡面實現的是脈衝遞迴神經網路(SRNN)。基於獨創的演算法,該晶片的硬體資源消耗量比傳統解決方案降低至少在一個量級以上。
另外,由於基於稀鬆動態資料的觸發式運算,整個系統的運算功耗也極低,基於全新晶片的體徵訊號檢測等應用,如心電訊號異常檢測,其總體功耗將低於 100uW 。
One more thing
此外,全新類腦計算專刊:NCE 期刊,已在 12 月 1 日由英國物理學會出版社 (IOP) 正式推出。NCE 為 “Neuromorphic Computing and Engineering” 的簡稱,這將是一本涵蓋多個學科領域、採用開放獲取形式出版的期刊。
NCE 將主要關注神經形態計算、裝置和系統的應用和發展,是神經形態計算領域的專業期刊,而 SynSense 聯合創始人及首席科學家 Giacomo Indiveri 將出任該期刊主編。期刊之外,SynSense 還將與蘇黎世神經資訊研究所一起,聯合主辦世界第三大國際類腦研討會 SynSense Neuromorphic Workshop(SSNW),該研討會計劃於每年 10-11 月在中國舉辦,加速類腦技術國內發展及落地。
當天會上,演講嘉賓清華“天機芯”研究者之一鄧磊博士這樣評論 SynSense 時識科技稱:“類腦計算還沒有形成像人工智慧那麼有體系的一個迭代發展的生態,與 7、8 年前做卷積神經網路一樣,現在處於認識逐漸清晰且大家從不同的角度去推廣的一個階段。如果不做,那麼以後中國在這個領域就一點話語權都沒有。”
據悉,鄧磊是美國加州大學聖塔芭芭拉分校(UCSB)電子計算機工程系博士後研究員、清華大學類腦計算研究中心博士。在活動現場,他對 SynSense 這家即將把類腦晶片商業化的公司給予了較高肯定。鄧磊最後對 DeepTech 補充評價稱:“不管是像喬寧推的終端應用,面向場景做深度定製,還是像我們研究大型的基礎平臺的建設,以及高校在研究的類腦模型和演算法,其實都是站在不同的角度,以後都會融會貫通起來。”