在馮諾伊曼架構中,大量數據搬運會帶來功耗、效率等內存牆問題及靈活性問題,為克服該問題,近年來出現了存內計算、可重構芯片架構、異構等芯片架構,力圖在 Memory 端打破存儲牆限制,讓能效有 1-2 個數量級的提升。
12 月 4 日,在 SynSense 時識科技主辦的 2020 年類腦技術開放日會上,DeepTech 藉機採訪到了 SynSense 創始人喬寧。據悉他從中科院博士畢業後,於 2012 年前往蘇黎世大學做博士後研究,之後轉做助理教授,一直專注於超低功耗亞閾型模擬電路加異步電路的類腦相關研究。
圖 |喬寧博士因此,SynSense 時識科技的核心技術也起源於蘇黎世大學與蘇黎世聯邦理工學院,涉及先進的數模混合神經形態處理器與神經形態算法研發成果,創始成員在 Nature/Science 等頂刊及類腦頂級國際會議期刊已發表過 700 + 篇論文 、引用量近 16000 次。
中外科學家攜手創業
談及創業初衷,喬寧表示:“類腦芯片,實現了算法層面包括芯片架構層面的全新變革。首先,類腦計算基於全新的算法;其次,全並行的運算架構打破了馮諾伊曼架構的束縛;另外,事件驅動的運算機制導致整個類腦系統在性能上有質的提升。所以,這不僅僅依賴於計算機理論體系,更融合了生物學理論體系,通過模仿神經元突觸、神經脈衝等生物行為的工作機制,實現芯片在算法及架構的顛覆性創新,從而帶來性能、功耗、延時等方面有極大提升。”
2017 年,喬寧和 Giacomo Indiveri 共同創立該公司,後者擔任聯合創始人兼首席科學家,其還是蘇黎世大學與蘇黎世聯邦理工學院終身教授、蘇黎世神經信息研究所 INI 所長。兩者的攜手創業,都是出於對類腦芯片技術發展的看好。目標是為一系列 AI 邊緣運算應用場景提供開創性的亞毫瓦級超低功耗、超低延時的芯片設計及解決方案。
而談到該公司更深的淵源,其實還與一位教父級人物有關。神經形態計算(Neuromorphic Computing)被稱為類腦計算,該概念最早來自於加州理工學院的超大規模集成電路之父、摩爾定律的提出者之一卡弗?米德(Carver Mead )教授。
圖|神經形態電子學1995 年~1996 年期間,卡弗?米德的 6 個學生來到蘇黎世大學,併成立了神經信息研究所,其中主要包含三位學者三個方向,分別是做動態視覺傳感器(Dynamic Vision Sensor)的 Tobi Delbruck、做硅耳項目(Silicon cochlea)的 Shih-Chii Liu,以及做類腦芯片研究的 Giacomo Indiveri。
那時,Giacomo Indiveri 在卡弗?米德課題組裏主攻神經擬態工程相關研究,他利用工作在亞閾值的晶體管的電學特性,來模擬生物神經元及突觸的工作機制,這一研究方向的發展主要依賴於亞閾值模擬電路和純異步數字電路,相關研究積累為現在 SynSense時識科技的核心技術領先性提供了保障。
目前,除了SynSense時識科技之外,世界上有兩家科技巨頭在類腦芯片領域有所探索,IBM 曾於 2014 年推出 True North 芯片,Intel 於 2016 年設計了異步脈衝神經形態芯片 Loihi,而量產的可商用的類腦芯片,市場上其實還沒有。
圖 |神經形態計算發展流派功耗降低 100-1000 倍
對於該公司的芯片,Giacomo Indiveri 教授表示:“我們的類腦芯片目的並不是要取代 CPU 和 GPU,而是要提供可以放在機器人和物聯網終端設備的實時傳感,是一個非常低功率,緊湊而小型的計算單元。”
做 AI 技術的歷代科學家,雖沒有承認自己做神經形態計算或者類腦計算,但其實也是在想從 “腦” 再挖掘點東西。Google \"TPU\"、百度 “崑崙”、阿里平頭哥 “含光”、寒武紀 “思元” 等 AI 芯片都在尋找提升 AI 能力的可能性。
談及類腦芯片的最大優勢,喬寧介紹,類腦技術可以做出不耗電的實時傳感器信息處理系統。在物聯網端上,傳感器對環境信息提取模擬信號通常是第一步,在靠近傳感端,把動態的信息先離散化數字化,只有動態信息發生的時候,才會實時生成數據,而處理器只能被動的由數據驅動運算(Data-driven computing)。”
而SynSense時識科技提出的全新方案 —— 事件處理器(Event Processor),這類處理器芯片運算機制是基於脈衝 / 事件觸發的運算,可以用於一維的實時傳感器信號分析或是二維的圖像信號處理,事件觸發及數據驅動運算,將能使整個傳感器系統在沒有動態信息發生時完全不耗電。
圖 | 各類芯片架構概覽顛覆傳統芯片的技術路徑——不耗電的事件處理器
喬寧認為,從芯片的電路實現上,類腦芯片的形態可以分為幾種:
一是同步電路芯片,這主要是通過 EDA、通過傳統的電路來設計;
二是同步電路與異步電路混搭,比如在類腦芯片中利用同步電路實現單核設計、利用異步電路完成多核的通信;
三是純異步電路實現,不管單核運算或者多核交互,裏面所有的運算及通訊單元都遵循事件觸發的機制;
第四種更高階的形態,則是異步電路加亞閾值模擬計算。在這種最高階的研究中,蘇黎世神經信息研究所有多年的深入研究及積累,他們最新的處理器芯片在 28nm 的工藝下,利用晶體管亞閾值模擬特性模擬生物形態的曲線,利用 pA 到 nA 級電流完成神經網絡計算,能效較純數字解決方案有 1-2 個量級的提升。
類腦芯片的另一個重要特徵是實時性,它可以處理的最佳事件類型不是雲端運算,而是端上的傳感器信息,例如語音或手勢識別或心跳生物信號。
Giacomo Indiveri 教授補充稱:“這些端上的實時的傳感信息是我們的芯片最適合處理的信號,具有可配置的動態參數來匹配環境傳感器的動態信息,在近傳感器的芯片端完成運算及決策,不需要與雲端產生傳輸數據。這就是為什麼我們可以以低帶寬、低功耗來高效處理這些實時信息的原因。”
圖 |DYNAP-CNN在可擴展性上,SynSense 研發的 DYNAP-CNN,是世界上第一款直接能對接事件相機的專用視覺處理器,芯片具有極強的可配置性,可以支持複雜大規模 SCNN 模型及算法。
其基於相機事件觸發的運算機制打破了幀的限制,可以實現 5-10ms 端到端識別響應延時;基於稀鬆數據的動態數據運算,可以實現 < 1mW 超低功耗,較傳統解決方案功耗降低 100-1000 倍。
在系統級上,因為基於傳感器 — 處理器直接對接的實時數據運算,無需緩存、系統成本降低 50%,整個系統級基於傳感器數據觸發運算,可以實現真正的 always-on,可廣泛落地於智能家居人機交互、智能機器人、可穿戴設備、智能安防、工業互聯網等領域。
除了視覺之外,SynSense 團隊還專注於低維度的傳感信息處理,這類芯片裏面實現的是脈衝遞歸神經網絡(SRNN)。基於獨創的算法,該芯片的硬件資源消耗量比傳統解決方案降低至少在一個量級以上。
另外,由於基於稀鬆動態數據的觸發式運算,整個系統的運算功耗也極低,基於全新芯片的體徵信號檢測等應用,如心電信號異常檢測,其總體功耗將低於 100uW 。
One more thing
此外,全新類腦計算專刊:NCE 期刊,已在 12 月 1 日由英國物理學會出版社 (IOP) 正式推出。NCE 為 “Neuromorphic Computing and Engineering” 的簡稱,這將是一本涵蓋多個學科領域、採用開放獲取形式出版的期刊。
NCE 將主要關注神經形態計算、設備和系統的應用和發展,是神經形態計算領域的專業期刊,而 SynSense 聯合創始人及首席科學家 Giacomo Indiveri 將出任該期刊主編。期刊之外,SynSense 還將與蘇黎世神經信息研究所一起,聯合主辦世界第三大國際類腦研討會 SynSense Neuromorphic Workshop(SSNW),該研討會計劃於每年 10-11 月在中國舉辦,加速類腦技術國內發展及落地。
當天會上,演講嘉賓清華“天機芯”研究者之一鄧磊博士這樣評論 SynSense 時識科技稱:“類腦計算還沒有形成像人工智能那麼有體系的一個迭代發展的生態,與 7、8 年前做卷積神經網絡一樣,現在處於認識逐漸清晰且大家從不同的角度去推廣的一個階段。如果不做,那麼以後中國在這個領域就一點話語權都沒有。”
據悉,鄧磊是美國加州大學聖塔芭芭拉分校(UCSB)電子計算機工程系博士後研究員、清華大學類腦計算研究中心博士。在活動現場,他對 SynSense 這家即將把類腦芯片商業化的公司給予了較高肯定。鄧磊最後對 DeepTech 補充評價稱:“不管是像喬寧推的終端應用,面向場景做深度定製,還是像我們研究大型的基礎平台的建設,以及高校在研究的類腦模型和算法,其實都是站在不同的角度,以後都會融會貫通起來。”