高通交付首批Cloud AI 100加速器和邊緣方案開發套件

在 2019 年 4 月，高通公司發佈了一款專用於雲端 AI 加速的處理器 Qualcomm Cloud AI 100，採用 7nm 工藝，性能比當時業界最先進的 AI 推理解決方案高出 10 倍以上。

而在 2020 年 9 月 16 日，高通宣佈 AI 推理加速器 Cloud AI 100 已經面向全球部分客户出貨。

高通 Qualcomm Cloud AI 100 加速器擁有先進的信號處理能力和領先的能效，能夠支持諸多運行環境對於 AI 解決方案的需求，包括數據中心、雲端邊緣、邊緣設備和 5G 基礎設施等。

而全新宣佈的 Qualcomm Cloud AI 100 邊緣方案開發套件通過提供一整套面向 AI 處理的系統級解決方案，支持高達 24 路的 1080p 視頻流和 5G 連接，旨在加速邊緣應用的普及。

硬件方面，Qualcomm Cloud AI 100 支持高達 400TOPS 的 AI 算力，同時在 7nm 工藝的加持下，擁有出色的性能功耗比，旨在提供業界領先的 AI 推理效率。Qualcomm Cloud AI 100 還支持從 15W 到 75W 功率的多種設備形態，其中包括 PCI-E 卡。

至於 Qualcomm Cloud AI 100 軟件套件，其中包含一套完整的工具棧，並支持 Tensorflow、PyTorch 和 Caffe 等主流框架，以及 GLOW 和 ONNX 等 runtimes。

該軟件套件包括具備編譯器和模擬器的 Qualcomm Cloud AI 100 應用 SDK，以及具備 runtimes、API、內核驅動程序和工具的平台 SDK，旨在支持 Qualcomm Cloud AI 100 平台在多個運行環境中的開發、測試及部署。

Qualcomm Cloud AI 100 開發套件由三個模組化的 Qualcomm 組件構成：

• Qualcomm Cloud AI 100——支持低功耗、高性能的 AI 推理

• Qualcomm 驍龍 865 模組化平台——支持應用和視頻處理

• 驍龍 X55 調制解調器及射頻系統模組——支持全球運營商的預認證模組實現領先的 5G 連接能力

總體來説，Qualcomm Cloud AI 100 邊緣方案開發套件是已經優化的系統級解決方案，能夠提供高性能的 AI 推理、視頻處理和 5G 連接。

高級副總裁、計算與邊緣雲業務總經理 Keith Kressin 表示：“高通在提供擁有業界領先的性能功耗比、從邊緣到雲端的高性能 AI 解決方案方面處於絕佳地位。目前，Qualcomm Cloud AI 100 正面向全球部分客户出貨，我們預計採用該產品的商用設備將於 2021 年上半年面市。”

隨着 AI 技術在社會生產、生活中的應用越來越深入，AI 產業的規模也在不斷增大，小到我們手上的智能手機，大到工業生產的設備，越來越需要 AI 的助力。這些 AI 中，有數據採集、計算、決策都在前端設備本地進行的終端 AI，也有數據訓練、處理都是在雲端進行的雲端 AI。而未來終端 AI 和雲端 AI 都不可能孤立存在，兩者的彼此無縫協同聯動才是大勢所趨。

此背景下，在終端側 AI 領域有着強大號召力的高通，通過 Qualcomm Cloud AI 100 加速器和開發套件將自身的 AI 實力拓展到雲端，就很容易理解了。

過去高通一直以來給人的印象都是終端側 AI 的堅定執行者，基於驍龍 AI Engine 人工智能引擎，高通通過終端 AI 為這個星球上一半以上的智能手機提供 AI 運算，方便人們的生活。但我們不知道的是，除了終端側 AI，高通在運算 AI 方面也擁有深厚的積累，事實上，高通一直都在促進終端 AI 和雲端 AI 的合作與協同，是分佈式 AI 的先行者和踐行者。

而本次交付的 Qualcomm Cloud AI 100 加速器和邊緣方案開發套件，峯值性能能達到驍龍 855 和驍龍 820 的的 3 至 50 倍，就是高通在雲端 AI 方面強大實力的最好例證。隨着 5G 商業部署的深入，高通將推進 AI 在運算進行大規模的訓練和推理，然後通過高速率低時延的 5G 網絡，將 AI 的具體能力和執行落實到邊緣終端側，讓邊緣計算和雲端的運算實時協同，既擁有強大的運算性能，又擁有極低的時延，從而讓 AI 能夠賦能社會生產生活的各方各面，徹底變革我們的生活方式。