高通交付首批Cloud AI 100加速器和邊緣方案開發套件

在 2019 年 4 月,高通公司釋出了一款專用於雲端 AI 加速的處理器 Qualcomm Cloud AI 100,採用 7nm 工藝,效能比當時業界最先進的 AI 推理解決方案高出 10 倍以上。

高通交付首批Cloud AI 100加速器和邊緣方案開發套件

而在 2020 年 9 月 16 日,高通宣佈 AI 推理加速器 Cloud AI 100 已經面向全球部分客戶出貨

高通 Qualcomm Cloud AI 100 加速器擁有先進的訊號處理能力和領先的能效,能夠支援諸多執行環境對於 AI 解決方案的需求,包括資料中心、雲端邊緣、邊緣裝置和 5G 基礎設施等。

高通交付首批Cloud AI 100加速器和邊緣方案開發套件

而全新宣佈的 Qualcomm Cloud AI 100 邊緣方案開發套件透過提供一整套面向 AI 處理的系統級解決方案,支援高達 24 路的 1080p 影片流和 5G 連線,旨在加速邊緣應用的普及。

硬體方面,Qualcomm Cloud AI 100 支援高達 400TOPS 的 AI 算力,同時在 7nm 工藝的加持下,擁有出色的效能功耗比,旨在提供業界領先的 AI 推理效率。Qualcomm Cloud AI 100 還支援從 15W 到 75W 功率的多種裝置形態,其中包括 PCI-E 卡。

至於 Qualcomm Cloud AI 100 軟體套件,其中包含一套完整的工具棧,並支援 Tensorflow、PyTorch 和 Caffe 等主流框架,以及 GLOW 和 ONNX 等 runtimes。

該軟體套件包括具備編譯器和模擬器的 Qualcomm Cloud AI 100 應用 SDK,以及具備 runtimes、API、核心驅動程式和工具的平臺 SDK,旨在支援 Qualcomm Cloud AI 100 平臺在多個執行環境中的開發、測試及部署。

Qualcomm Cloud AI 100 開發套件由三個模組化的 Qualcomm 元件構成:

  • Qualcomm Cloud AI 100——支援低功耗、高效能的 AI 推理

  • Qualcomm 驍龍 865 模組化平臺——支援應用和影片處理

  • 驍龍 X55 調變解調器及射頻系統模組——支援全球運營商的預認證模組實現領先的 5G 連線能力

總體來說,Qualcomm Cloud AI 100 邊緣方案開發套件是已經最佳化的系統級解決方案,能夠提供高效能的 AI 推理、影片處理和 5G 連線。

高階副總裁、計算與邊緣雲業務總經理 Keith Kressin 表示:“高通在提供擁有業界領先的效能功耗比、從邊緣到雲端的高效能 AI 解決方案方面處於絕佳地位。目前,Qualcomm Cloud AI 100 正面向全球部分客戶出貨,我們預計採用該產品的商用裝置將於 2021 年上半年面市。”

高通交付首批Cloud AI 100加速器和邊緣方案開發套件

隨著 AI 技術在社會生產、生活中的應用越來越深入,AI 產業的規模也在不斷增大,小到我們手上的智慧手機,大到工業生產的裝置,越來越需要 AI 的助力。這些 AI 中,有資料採集、計算、決策都在前端裝置本地進行的終端 AI,也有資料訓練、處理都是在雲端進行的雲端 AI。而未來終端 AI 和雲端 AI 都不可能孤立存在,兩者的彼此無縫協同聯動才是大勢所趨。

此背景下,在終端側 AI 領域有著強大號召力的高通,透過 Qualcomm Cloud AI 100 加速器和開發套件將自身的 AI 實力拓展到雲端,就很容易理解了。

過去高通一直以來給人的印象都是終端側 AI 的堅定執行者,基於驍龍 AI Engine 人工智慧引擎,高通透過終端 AI 為這個星球上一半以上的智慧手機提供 AI 運算,方便人們的生活。但我們不知道的是,除了終端側 AI,高通在運算 AI 方面也擁有深厚的積累,事實上,高通一直都在促進終端 AI 和雲端 AI 的合作與協同,是分散式 AI 的先行者和踐行者。

高通交付首批Cloud AI 100加速器和邊緣方案開發套件

而本次交付的 Qualcomm Cloud AI 100 加速器和邊緣方案開發套件,峰值效能能達到驍龍 855 和驍龍 820 的的 3 至 50 倍,就是高通在雲端 AI 方面強大實力的最好例證。隨著 5G 商業部署的深入,高通將推進 AI 在運算進行大規模的訓練和推理,然後透過高速率低時延的 5G 網路,將 AI 的具體能力和執行落實到邊緣終端側,讓邊緣計算和雲端的運算實時協同,既擁有強大的運算效能,又擁有極低的時延,從而讓 AI 能夠賦能社會生產生活的各方各面,徹底變革我們的生活方式。

版權宣告:本文源自 網路, 於,由 楠木軒 整理釋出,共 1824 字。

轉載請註明: 高通交付首批Cloud AI 100加速器和邊緣方案開發套件 - 楠木軒