過去幾年，AI芯片初創企業如雨後春筍般湧現。如今，一批早期參與的企業已經開始走向成熟，並通過增加模塊及芯片卡等方案擴展其產品範圍，同時憑藉出色的芯片設計與全球分銷渠道建立起自己的市場競爭優勢。
Hailo模塊
來自以色列的AI芯片初創企業Hailo已經推出兩款基於其Hailo-8 AI加速器芯片的AI加速器模塊，主要面向邊緣應用場景。這些模塊採用標準的M.2與mini-PCIe格式，適用於智慧城市、智能零售、智能家居以及工業4.0應用場景中的無風扇“邊緣設備”。這些邊緣設備主要用於執行多視頻流分析等任務，旨在以邊緣部署方式減少延遲並避免數據集中引發的隱私問題。
Hailo-8的“結構定義數據流”架構使其能夠以3 TOPS/瓦的性能獲得26 TOPS處理通性。其擁有車載級應用許可，適用於ASIL-B應用並獲得了AEC-Q100 Grade 2認證。
Hailo公司最近還公佈了新數據，表示其模塊在各類性能基準(包括針對谷歌Edge TPU進行了優化的EfficientNet-EdgeTPU)測試中全面擊敗了英特爾Myriad-X與谷歌Edge TPU(Coral M.2)模塊。考慮到Hailo-8擁有高達26 TOPS的性能，而另外兩位對手的峯值性能僅為可憐的4 TOPS，這樣的結果絲毫不令人意外。但讓人驚訝的是，Hailo的內部測試發現，谷歌Edge TPU模塊的平均性能可達參數看似相近的英特爾Myriad-X模塊的2倍。
Hailo芯片與兩大市場領導者正面對壘，圖中柱狀所示為各種模塊的每秒處理幀數。
Hailo-8已經在富士康的邊緣設備BOXiedge中使用，該邊緣設備主要用於在邊緣位置上處理視頻。這款無風扇設備配備有Socionext提供的SynQuacer SCA11並行處理器外加Hailo-8，可用於加速深度學習推理過程。
這家位於特拉維夫的初創企業成立於2017年，目前擁有100多名員工。迄今為止，他們已經從NEC及ABB等戰略投資機構手中籌集到超過8800萬美元資金。
Groq卡
Groq目前正以服務器節點的形式出售其張量流處理器(TSP)芯片，該芯片將8張PCIe卡集成於一體，藉此在數據中心內快速執行AI推理。Groq的TSP達到1 POPS(1000 TOPS)，這使其成為業界功能最強大的TSP之一。根據Groq公佈的數據，其在ResNet-50 v2數據集上批次大小為1的測試中，可以達到18900 IPS(每秒推理次數)，這無疑是目前速度最快的商用AI加速器芯片。
Groq的處理器具有極為精簡的硬件設計，且執行規劃任務在軟件層面進行。Groq的編譯器負責協調所有數據流及時序，確保計算不會發生停頓，藉此讓延遲及性能具有更好的可預測性。
該公司最近宣佈已獲得新的資金注入，但拒絕透露具體資金籌措數額。此外，Groq還暗示正在擴大受眾市場，包括汽車行業。
Groq節點是一台包含8塊TPU芯片的5U設備，可提供高達6 POPS的AI推理性能。
新的Groq節點整合有8塊Groq卡(8個TPU芯片)，可提供6 POPS性能，尺寸為5U且功率為3.3千瓦。Groq方面解釋稱，這種性能與功耗的完美結合，將使該產品在優化數據中心總體擁有成本(TCO)方面擁有顯著優勢。
Graphcore分銷網絡
來自英國的AI加速器初創企業Graphcore宣佈已經正式建立起全球渠道合作伙伴網絡。
該公司是2018年率先推出芯片產品的廠商之一，並於今年夏季公佈了第二代芯片。Colossus Mark 2的推出，承載着Graphcore與市場領先者英偉達正面競爭的野心，其可在數據中心內帶來高達約250 TFLOPS的AI訓練性能。Graphcore的系統級解決方案IPU設備是一款1U服務器刀片，其中包含4塊Colossus Mark 2芯片，可提供FP16精度的Petaflop級AI計算能力。其同時提供IPU-POD，可保證16台IPU設備串連或並行運作。
Graphcore的IPU-POD內裝有16枱面向HPC類應用的IPU設備(共64塊IPU芯片)。
Graphcore方面表示，其IPU已經在金融服務、醫療保健、消費級互聯網、學術研究等眾多領域得到實際應用。
Graphcore的“精英合作伙伴計劃”意在建立一套IPU設備分銷商及轉售商網絡。合作方包括服務器製造商戴爾、浪潮、2CRSI以及科學超級計算機制造商Atos，歐洲分銷商Boston Limited，系統集成商BSI，中國分銷商Digital China，科學計算分銷商Lambda，總部位於香港的Macnica Cytech，面向美國聯邦政府客户的Meadowgate Technologies，韓國分銷商Megazone，英國HPC技術分銷商OCF，HPC服務器製造商Penguin Computing，分銷商Tech Data Europe與US，外加關鍵任務/美國政府專業供應商Wildflower International等。