楠木軒

從“芯”出發 英特爾以全能實力提供澎湃智能動力

由 廉擁軍 發佈於 科技

近年來,數字化技術的崛起,正在重塑產業格局,引領創新趨勢,加速數字經濟蓬勃發展。2020年春,萬眾一心共同抗“疫”的過程,更進一步凸顯了產業數字化轉型升級的必要性和緊迫性。

作為智能互聯世界的中堅力量,英特爾堅持以數據為中心,跨越產業鏈供需兩端,持續為行業用户提供領先而全面的產品組合與解決方案,為行業數字化轉型打造堅實基石、提供強勁動力。與此同時,英特爾通過持續構建開放、融合、賦能的生態體系,與產業鏈上下游合作伙伴實現共享共贏,制勝智能變革。

今天,“芯”存高遠 智者更強——英特爾數據創新峯會暨新品發佈會在線上召開。本次發佈會,英特爾發佈了一系列以數據為中心的全新產品組合,並攜手一眾行業用户和合作夥伴共同展示其最新產品、技術在諸多行業中豐富的實踐應用案例,共享頂尖企業用户的成功轉型經驗。

英特爾三大核心構築AI基石

英特爾的AI和分析產品組合主要圍繞3大核心來構建:硬件,軟件和生態系統。

在硬件方面,幾年來,英特爾一直在訓練和推理中將AI加速功能引入至強,確保至強是運行AI的最佳CPU。英特爾認為,沒有一種方法能夠滿足所有類型的AI要求和用例。

英特爾擁有獨特的優勢,可提供在CPU,GPU,FPGA和專用加速器插槽中部署的標量,矢量,空間和矩陣架構的各種組合,使客户能夠在需要的時間和地點使用最合適的計算類型。但是,擁有單一的產品是不夠的,英特爾還認識到有必要將這些產品集成到一個通用平台中,從而使它們不只是其各個部分的總和,包括處理,內存,I/O,封裝,內部和外部 IP,互連,安全性等。

在軟件方面,英特爾對客户常用的軟件不斷進行優化,包括流行的開源框架、定製拓撲結構等等,通過應用程序工程和支持開源社區,使AI開發人員能夠在Intel平台上進行編程。英特爾正在通過oneAPI建立一個統一的編程模型,為開發人員提供統一的體驗,同時使英特爾產品組合當中的所有AI產品的性能得以最大化。

在生態系統方面,從公有云提供商到OEM平台以及英特爾的AI Builders社區,已經使用Intel AI技術建立了蓬勃發展的合作伙伴生態系統。同時,英特爾已經實現了在解決方案級別上交付,通過生態系統驅動的解決方案,客户用例POC和英特爾精選解決方案產品,使AI易於採用和部署。

今天,英特爾推出了一系列新產品,作為面向AI和分析芯片&軟件基礎的一部分:

在處理數據的部分

英特爾一直致力於為至強處理器注入AI訓練和AI推理功能。從第一代英特爾至強可擴展處理器開始,英特爾就加入了AVX-512,並優化了FP32。在2019年英特爾繼續進行了相關改進,在第二代至強可擴展中引入了英特爾深度學習加速技術,從而顯着提高了基於INT8推理的性能。隨着第二代至強可擴展產品的推出,英特爾將至強拓撲優化的數量從24個增加到44個。

bfloat16是一種緊湊的數字格式,可以提高處理速度,同時達到相似的模型精度。第三代英特爾至強可擴展處理器是業界首款具有內置bfloat16支持的主流服務器處理器,增強了我們現有的深度學習優化能力。硬件加速極大地受益於優化的軟件。英特爾工程師已經使用支持bfloat16的AI框架和工具為AI生態系統做好了準備。

諸多客户已經體驗到了英特爾深度學習加速技術的優勢。包括阿里雲、螞蟻金服集團、海鑫科金、東軟、騰訊雲等公司。能印證英特爾的價值的最好方式就是看到有越來越多的客户如今將他們的AI應用部署在英特爾至強平台之上。

在今天Cooper Lake的發佈之外,英特爾也將針對至強可擴展產品路線圖給大家做一個快速更新。Ice Lake在今年晚些時候的發佈計劃中,同時,英特爾2021年代號為Sapphire rapids的至強可擴展處理器已經啓動。它將包含一項全新的稱為Advanced Matrix Extensions或AMX的AI功能。

在數據存儲的部分

所有工作負載的一大共同點是需要數據,但是當今的內存/存儲層次結構存在鴻溝,需要在容量,速度,成本和持久性之間進行取捨。在存儲金字塔頂部,成本很高,容量很小;在底部,容量實際上是無限的,但是訪問數據的速度很慢。

英特爾一直在進行系統性地投資,以通過彌合內存和存儲層級間的鴻溝來消除這些不得已的取捨。英特爾3D NAND技術在浮柵結構上進行設計,通過採用更小的單元尺寸和高效的存儲陣列,實現更高容量的解決方案,具有高可靠性,對於電荷損失具有高保護性。

英特爾傲騰技術是建立在獨特架構上的全新技術,它實現了在密集、無晶體管、可堆棧式設計中對每個內存單元進行獨立編址。這一創新在內存與存儲金字塔中建立了新的層級,可提供多種外形規格的持久內存、非易失性內存以及持久存儲。

英特爾傲騰SSD通過快速緩存和存儲加速應用程序,提升了每個服務器的規模,並減少延遲敏感工作負載的交易成本。與DRAM不同,英特爾傲騰持久內存技術可提供高性能智能,以更低的成本提供比DRAM高的容量,並且即使斷電也可以保留其數據。

傲騰持久內存自去年交付以來,發展勢頭十分強勁。據瞭解,已經有超過270項生產交易達成,英特爾的POC到銷售的轉化率超過85%,《財富》 500強公司中有200多個進行了傲騰持久內存的POC或部署。

第三代至強可擴展處理器引入了英特爾傲騰持久內存200系列,可在四路系統中提供多達18TB的內存數據,非常適合應對最大的數據分析挑戰。在意外斷電的情況下,傲騰持久內存200系列提供的CPU對持久性數據的訪問速度比主流NAND SSD讀取數據快225倍以上。與DRAM不同,在計劃或計劃外重新啓動後,數據不必重新加載到內存中。

高性能的英特爾傲騰固態盤和高容量的英特爾3D NAND固態盤,支持人工智能和分析的密集IO需求。英特爾SSD D7-P5500和P5600固態盤建立在英特爾浮柵結構的3D NAND技術,實現了業內領先的96層TLC的面密度,在該面密度下具有領先的寫入性能以及領先的數據保留能力。與上一代NVMe NAND相比,這些驅動器具有全新的PCIe控制器,固件,並且可部署第3代和第4代PCIe,可將延遲降低40%,並將性能提高33%。

英特爾D7-P5500和P5600 SSD是英特爾3D NAND PCIe系列的擴展,已被所有主流OEM所採用。

履行英特爾使AI和分析更易於採用和部署的戰略,今天,英特爾與13個合作伙伴宣佈了針對AI和分析的3個新的和4個經過修訂的精選解決方案,為支持對遠程工作和學習的需求,英特爾還宣佈與VMware擴大合作伙伴關係,並在vSAN上提供適用於VMware Horizon VDI的新的精選解決方案,該解決方案可以以更低的單台成本支持多達87%的遠程桌面。

在軟件&解決方案的部分

英特爾oneAPI跨架構工具生態系統使開發人員能夠為AI,HPC和其他計算密集型應用程序提供毫不妥協的性能和高效的開發。英特爾在oneAPI上的努力已經取得重大進展。

英特爾OpenVINO發行版工具包是用於開發AI應用程序的軟件工具集,其重點是加快對諸如計算機視覺,音頻,語音等用例的推理。英特爾最近推出了該工具包的新的長期支持版本,它提供了一致、穩定的版本,僅針對關鍵錯誤修復和安全補丁進行了更新。這對於哪些對代碼穩定性有着極高要求的物聯網客户而言尤其重要。

不僅如此,英特爾還宣佈了針對AI和Analytics的3個新精選解決方案和4個經過修訂的精選解決方案。

在FPGA的部分

FPGA具有獨特的定位,可以為快速創新的客户提供高性能的自定義工作負載。為了使這些創新者能夠提供智能服務,英特爾開發了一種方法,使開發人員能夠在我們包括FPGA在內的各種產品組合中快速部署AI解決方案。英特爾的芯片和軟件產品組合可為客户提供從雲到邊緣的智能服務。

為了使這些創新者能夠提供智能服務,英特爾開發了一種方法,使開發人員能夠在我們包括FPGA在內的各種產品組合中快速部署AI解決方案。例如,數據科學家可以利用OpenVINO在不瞭解FPGA的情況下利用我們的FPGA做推理。他們可以在Tensorflow,Caffe或mxnet等標準AI框架中進行訓練,並通過OpenVINO進行一些函數調用,從而在幾秒鐘內部署該解決方案。

如今的一大趨勢是AI模型的大小和複雜性在不斷增加。AI模型的複雜度每3.5個月會翻一倍或呈現一年10次翻倍的趨勢。為應對這一新興趨勢,英特爾在其當前的FPGA架構上進行了創新,以實現性能的指數級提升。

英特爾首款經過AI優化的FPGA英特爾Stratix 10 NX嵌入了一種新型的AI優化塊,稱為AI Tensor塊。與當今用於人工智能推理工作負載的Stratix 10 MX相比,AI Tensor Block提供的INT8計算性能高出多達15倍。AI Tensor塊針對AI中常見的矩陣-矩陣或矩陣-矢量乘法進行了調整,其功能旨在有效地處理小的和大的矩陣面積。

Stratix 10 NX FPGA作為多功能加速器補充了英特爾至強處理器。它們專門針對需要硬件定製的應用程序,這些應用程序需要集成AI提供低延遲和實時功能。為提供這種數量級的性能,英特爾重新設計了當前的計算模塊。AI Tensor Block的設計專注於加速AI應用程序,使我們可以在相同的空間內容納15倍的計算量。

簡而言之,Stratix 10 NX通過AI Tensor塊,擴展了基於FPGA的,用於AI推理的高性能,讓硬件定製化能力的優勢得以進一步拓展。英特爾Stratix 10 NX FPGA為AI推理提供了多達15倍的性能提升。這是英特爾首款經過AI優化的FPGA,將於今年晚些時候上市。

筆者看來,英特爾至強可擴展處理器是市面上唯一集成人工智能加速的主流服務器處理器,能夠幫助企業輕鬆構建和部署AI應用。除CPU之外,英特爾還涉足GPU、FPGA、存儲、軟件等領域,打造了業界最龐大和完整的以數據為中心的產品組合,不僅能夠幫助客户從雲到網絡,到邊緣和端傳輸、存儲和處理海量數據,並滿足不同行業和應用場景多樣化的工作負載需求,也充分體現了英特爾以數據為中心的轉型策略。

2020年是新十年的起點,數據釋放,智變加速。英特爾作為數據時代的賦能者,堅持以數據為中心,釋放數據價值,推動產業智能升級。今天,英特爾從“芯”出發,佈局未來,以全能實力提供澎湃智能動力,為智者賦能,讓智者更強。