每天設備請求次數達840億次 塗鴉智能這樣響應業務需求

【環球網科技報道 記者 勃潺】作為一家全球化的AI+IoT企業,塗鴉智能每天需要處理的設備請求次數是840億次,請求高峯是150萬次/秒,同時雲端服務器的響應時間是小於10毫秒/次,同時每天還會處理1.2億次的AI語音交互數。

如何及時響應這些需求,是塗鴉面臨的挑戰。

公開資料顯示,塗鴉智能是一個全球化IoT雲平台,連接消費者、製造品牌、OEM廠商和零售連鎖的智能化需求,為客户提供一站式人工智能物聯網的解決方案,並且涵蓋了硬件接入、雲服務以及APP軟件開發三方面,形成人工智能+製造業的服務閉環。

塗鴉智能雲服務系統是整個 IoT 解決方案的核心,直接決定着客户的用户體驗和業務全球化的速度,因此在雲服務商的選擇上,基礎設施的覆蓋範圍、服務的安全性、穩定性、擴展性都是考慮的重要因素。

同時,隨着海外業務的不斷擴大,在選購雲基礎設施服務時,如何能在全球範圍內提供穩定安全的服務,成為了塗鴉首要考慮的問題。

塗鴉雲端開發部首席架構師陳亞焱在接受記者採訪時感嘆:“全球的數據中心對我們來説搭建成本比較高,運維和維護起來也會非常困難。我們需要支撐億級設備同時在線的,數據量非常龐大,並且不分波峯和波谷的情況,基本就像家裏的一個智能插座,只要通電之後,就會隨時在線。再有,我們的業務增長非常迅速,比如2020年剛剛過去的黑五、聖誕、元旦,我們迎來了一波流量增長的高峯,這就要求我們必須要做到非常實時的擴容。”

塗鴉每個IoT設備通過MQTT協議連接到雲端,底層構架同時支持了TLS和QUIC。此外,為了使更高性能的網絡傳輸在入網的環境下有更好的表現,塗鴉將QUIC用於MQTT協議。這些通過亞馬遜雲服務(AWS)的NLB(NetworkLoad Balancer),即網絡負載均衡來實現,將請求轉發到後端具體的實例上。

早在2018年,塗鴉智能便已經開始使用AWS雲計算服務。而隨着AWS Graviton2在中國的落地,塗鴉開始逐漸將業務切換到了Graviton2上。陳亞焱介紹,塗鴉原本的內存數據庫運行在X86構架上,藉助於多集羣以及一些灰度方案,塗鴉已經開始將業務轉移到Arm架構。

據瞭解,Graviton2已是AWS的第二代基於Arm架構的處理器,與同配置x86實例相比,Amazon EC2 M6g、C6g和R6g實例的性價比提高了40%。

這款產品基於64位Arm Neoverse N1微架構設計,是Arm第一款數據中心定位的CPU架構,並且獲得了不小優勢。Graviton2與第一代AWS Graviton處理器相比,在性能和功能方面實現了明顯的提升,性能達到第一代的7倍、計算核心數量達到4倍、緩存達到2倍、內存速度達到5倍。

不止如此,AWS Graviton2處理器還具有全天候運行的256位內存加密功能,每個核心的加密性能速度比第一代AWS Graviton處理器提高50%。

與x86相比,兩者雖然都只是一個CPU的架構,但在性比價上卻能給企業帶來不同的體驗。在使用Graviton2後,塗鴉的業務效率得到了明顯提升:CPU的性能提升了100%,同樣是20萬多一些的TCP長鏈接,CPU佔用率從之前的27%降到了12%。同時服務器單價降低了20%,整體的性價比就是提升了2.5倍。

陳亞焱介紹:“我們是在為全球提供服務,所以我們提供的服務都會符合當地的各種安全法規,比如歐盟的GDPR,AWS本身在各地區基本上都有獨立的數據中心,這也是我們最終選AWS的一個原因。”

此外,在服務方面,AWS為塗鴉提供了類似聖誕護航的服務,同時有兩個團隊24小時為塗鴉提供實時的線上服務。

同時,作為AI+IoT企業,塗鴉需要能夠適應物聯網行業特性的技術服務,而AWS Graviton2也適應這一垂直行業領域。在陳亞焱看來,Graviton2的每個CPU都是一個獨立的物理核心,這和塗鴉資源隔離的構架情況非常匹配。同時,基於Arm芯片的AI計算也有更好的表現,這也能夠更好的推動塗鴉的業務發展。

“5AIoT(5G+AI+物聯網)將成繼移動互聯網後,下一輪科技紅利最大的機遇。”中信證券在一份研報中指出,智能手機和移動互聯網連接數趨於飽和,但伴隨5G、Wi-Fi、AI等技術發展、成本下降,以及場景逐漸成熟,物聯網的機遇才剛剛展露。

進入全新階段的AIoT產業,通過打造生態鏈積累用户規模和數據流量,可以以規模效應實現覆蓋更豐富的智能潮玩生活場景。而隨着用户同設備的交互頻次增多,以及大數據的深度挖掘,也將會對用户形成更為精準的洞察,從而賦能各種場景。但這些都離不開雲計算的基礎技術支持。

據IoT Analytics研究,2020年全球物聯網連接數超 117億個,首次超過非物聯網連接數,並在過去十年裏保持着30.8%的年複合增長率,遠超總連接數的9.4%年複合增長率。海量規模的IoT設備開始推動底層AIoT技術生態的建立,並逐漸改變現有商業世界的面貌。這也對現有的雲計算架構在安全性、穩定性、可擴展性等方面提出了更高的要求。

作為全球化AI+IoT平台,塗鴉智能在近幾年正加速全球化戰略佈局,並推出了“星雲計劃”,旨在對全球潛力客户進行重點扶持。AWS Graviton2的推出,給塗鴉帶來了更好的業務支持。據陳亞焱介紹,基於Graviton2如此優秀的表現,未來塗鴉會逐步遷移更多的機器實例到Graviton2上面。

版權聲明:本文源自 網絡, 於,由 楠木軒 整理發佈,共 2199 字。

轉載請註明: 每天設備請求次數達840億次 塗鴉智能這樣響應業務需求 - 楠木軒