【獵雲網北京】12月5日報道(文/李彤煒、小樹)
12月2日,逆勢生長-NFS2020年度CEO峯會暨獵雲網創投頒獎盛典在京舉行,國內AI芯片獨角獸寒武紀聯合創始人劉道福在峯會上發表了題為《AI“芯”技術,助力行業智能化》的主題演講。在演講中,劉道福概括介紹了智能芯片對於人工智能產業發展的核心作用,同時也分享了寒武紀的智能芯片佈局及其行業應用。
劉道福提到,智能算法、海量數據、智能算力是人工智能產業的三大核心要素。其中,算力決定智能化水平的上限。“因為智能時代催生了海量及複雜的數據,假如算力成本居高不下,整個產業很難繼續發展。只有普惠的或者足夠便利的獲取算力,才可能支撐人工智能在各行各業的落地。”劉道福解釋道。
“可以説,人工智能芯片伴隨着需求而生。人工智能在發展過程中,對算力的需求非常大,這些年整個神經網絡的規模、參數以及計算量呈指數級發展,每一年可能會翻10倍。而摩爾定律是每18個月翻兩倍,這中間有極大的鴻溝,只有更高算力和更高能效比的人工智能芯片架構,才能支撐人工智能運算。”劉道福進一步表示,“隨着人工智能計算被廣泛應用於不同場景下,各行各業對智能芯片算力的要求也千差萬別,所以亟需一個針對智能計算優化的芯片處理器架構。”
因此,一批專門針對人工智能領域設計並銷售的智能芯片公司應運而生。以寒武紀為例,已成功推出的產品體系覆蓋了雲端、邊緣端的智能芯片及其加速卡、終端智能處理器IP,可滿足雲、邊、端不同規模的人工智能計算需求,同時提供貫通雲邊端的端雲一體的軟件棧。具體來看,自成立以來,寒武紀先後推出了用於終端場景的寒武紀1A、寒武紀1H、寒武紀1M系列芯片、基於思元100和思元270芯片的雲端智能加速卡系列產品以及基於思元220芯片的邊緣智能加速卡,及自研基礎系統軟件平台Cambricon Neuware。
寒武紀人工智能處理器的設計目標是“面向人工智能領域的通用處理器”,所以需要智能處理器既需要支持智能計算中最重要的運算-矩陣或高維張量運算,也要支持一些機器學習算法中的零碎運算-向量和標量,並且大部分芯片面積高維張量為主,這樣便於保持高效能。同時寒武紀在雲端、終端以及邊緣端都採用統一的軟件架構及指令集,對編程也非常友好。劉道福介紹道。
然而任何硬件和產品都離不開行業落地,對人工智能芯片公司來説,能否切中行業需求,賦能行業智能化發展,是成功的關鍵。目前,人工智能芯片已經廣泛應用於汽車、醫療、金融、工業質檢等領域。
“汽車可能會是未來智能芯片重要的應用領域”劉道福談到,“自動駕駛對於實時性要求很高,不能離線處理,必須在數毫秒內迅速判斷,單純靠車端的智能運算很難滿足未來複雜場景的自動駕駛需求,所以需要路側智能來輔助智能汽車做決策。未來,每一輛汽車都是移動的數據中心,充沛的算力就變得尤為重要了。”
而在醫療領域,智能芯片則側重於視覺技術的應用,比如醫學影像的智能識別等。劉道福介紹道:“以輔助診療為例,因為不同醫生的經驗與技能是千差萬別的,通過AI的輔助,能將頂級醫院及醫生的經驗和技術融入到AI決策系統裏,繼而共享給一些醫療能力弱的醫院,比如縣級和鄉鎮醫院,實現醫療的公平化。”
另外,金融領域也是智能芯片重要的落地場景,在智能支付、智能風控、流程智能化方面,智能芯片都大有可為。“比如,金融機構可以根據大數據來刻畫人羣畫像,實現智能風險控制;比如藉助OCR技術,讓票據機器可以自動錄入、讓流程可以自動觸發,從而實現流程智能化,提升效率。”劉道福表示。
逆勢生長-NFS2020年度CEO峯會暨獵雲網創投頒獎盛典於12月2日-4日在北京柏悦酒店召開,由獵雲網主辦,鋭視角、獵雲資本、獵雲財經、企業管家協辦。本屆峯會以“逆勢生長”為主題,開設了主論壇和九大專場,覆蓋母基金、電商、醫療等領域,近兩百名行業專家、投資人和創業者們深入探討各產業經營之道,以及行業變革中醖釀的創業與投資機遇。
以下為劉道福演講實錄,獵雲網整理刪改:
大家下午好!首先我非常感謝獵雲網的邀請,有機會跟大家在這裏分享。標題改了一下,叫AI“芯”技術,助力行業智能化。
人工智能時代,算力決定智能化水平的上限
智能芯片離不開需求方,整個人工智能的算法或者機器學習有三個浪潮,最早提出人工智能這個概念是在50年代的達特茅斯會議,會上提出了現在的深度學習或者神經網絡的雛形,即多層感知機技術,但由於缺乏好的多層神經網絡訓練算法,並沒有得到很好的發展。直到80年代,由去年圖靈獎的獲得者提出的反向傳播算法,讓多層的神經網絡的訓練成為了可能,但是受限於算力無法滿足多層神經網絡的需求,沒有得到很好的發展。所以在90年代,反而是一些算力需求低的算法,比如決策樹、隨機森林、支持向量機等得到了比較長足的發展。直到2000年之後,隨着摩爾定律、計算機、半導體、芯片技術的發展,以及異構計算的出現,讓整個算力尤其是並行和異構算力得到了長足發展,加上互聯網數據的積累,解決了深度學習的數據和算力問題,讓深度學習算法重新煥發了青春。也正是在2008年,我們的團隊開始了早期的機器學習與芯片交叉研究。
在傳統工業時代,電力決定了整個工業發展的上限,成為了當時非常重要的生產要素或生產資源。而在人工智能時代,則是算力來決定智能化水平的上限。因為只有普惠的算力或者足夠便利可獲取的算力,才可能支撐人工智能在各行各業的落地。
人工智能的三大發展要素人工智能有三大發展要素,即算法、數據、算力。首先,是算法本身的突破,因為沒有算法,光有數據、算力,沒辦法把價值發揮出來;其次,是海量的數據,因為神經網絡算法的層數為了達到良好效果,往往需要很多層,且參數量巨大,需要避免過擬合等問題,這些都需要海量的數據。最後是需要有算力,與日劇增的且複雜的數據需要高算力處理,假如算力成本居高不下的話,整個產業很難發展,因為任何一個行業的長足發展或者規模落地,最後的障礙往往都是成本。
這裏舉例説明下深度學習等人工智能技術對數據的需求。比如最近應用很廣的自然語言處理模型bert,其訓練大概需要33億文本語料,而簡單的語音識別也需要高達數百小時的訓練,形成數百萬億級的算力需求。
人工智能芯片架構再來看人工智能對智能算力的需求,這些年整個神經網絡的規模或者參數呈指數發展,每一年可能會翻10倍。摩爾定律是每18個月翻兩倍,這中間有極大的鴻溝,這個鴻溝怎麼彌補?需要專門的人工智能芯片架構才能支撐人工智能運算,這也是為什麼需要專門的人工智能芯片。從另外的一個角度看,芯片技術的發展往往是靠應用驅動的。在80年代,主要的應用是控制或者文本處理,這裏面計算往往是標量計算,或者是傳統的通用計算,所以誕生了面向通用計算的CPU。而在90年代,圖形界面和遊戲應用開始出現,而CPU很難高效的滿足圖形計算的計算模式,誕生了像英偉達這樣專門做圖形芯片的公司。到現在人工智能計算越來越廣泛,應用在各行各業。所以,人工智能的計算模式與圖形計算、通用計算都不同,勢必需要不一樣的、針對智能計算進行優化的處理器架構。
作為一家芯片公司,我們關注在不同場景不同行業對智能芯片算力的要求。對智能物聯網應用,其典型算力需求是小於1TOPS,消費電子是1-20TOPS,而自動駕駛則取決於Level,Level2需要約是20T,Level4需要200T。而數據中心及雲計算等業務,規模越大,用户訪問越多,需要的算力就越大,所以最終可能在POPS到EOPS不等。
寒武紀的雲、邊端一體,軟硬件協同佈局寒武紀是目前國際上少數幾家全面系統掌握了智能芯片及其基礎系統軟件研發和產品化核心技術的企業之一,能提供雲邊端一體、軟硬件協同、訓練推理融合、具備統一生態的系列化智能芯片產品和平台化基礎系統軟件。其中,終端的典型應用領域包括各類消費類電子、物聯網產品等;雲端的典型應用領域包括雲計算數據中心、企業私有云等;邊緣端的典型應用領域包括智能製造、智能家居、智能零售、智慧金融、智慧醫療、智能駕駛等。
除了硬件,與之協同配套的還有軟件平台。寒武紀基礎系統軟件平台Cambricon Neuware則徹底打破了雲邊端之間的開發壁壘,兼具高性能、靈活性和可擴展性的優勢,僅需簡單移植即可讓同一人工智能應用程序便捷高效地運行在公司雲邊端系列化芯片/處理器產品之上,在Cambricon Neuware的支持下,程序員可實現跨雲邊端硬件平台的人工智能應用開發,以“一處開發、處處運行”的模式大幅提升人工智能應用在不同硬件平台的開發效率和部署速度,同時也使雲邊端異構硬件資源的統一管理、調度和協同計算成為可能。
智能芯片在各行各業的應用下面講一下智能芯片在各行各業的應用。人工智能技術分三層,第一是基礎層,主要是以硬件為載體的AI芯片。第二是技術層,可能是計算機視覺、語音識別、自然語言處理、知識圖譜、搜索推薦,最上層是智慧應用層,包括自動駕駛、智慧教育、智慧電力、機器人、質檢等等。
首先簡單介紹下智能芯片在醫療場景的應用,最常見的是基於視覺技術的應用。如醫學影像智能識別。比如,在傳統CT照片上,一般醫生需要幾個小時才能勾勒出病灶,而基於AI的技術只需要幾秒鐘,醫生審核一下即可。另外就是語音病例,現在患者可以通過與醫生的對話,生成一個病例,醫生做一定調整即可。還有輔助診療,通過AI的技術賦能,能讓普通醫院共享到整個醫療大數據甚至是頂級醫院及醫生的經驗,實現更公平的醫療。
金融行業也有諸多應用,比如支付。現在各種指紋技術,都是基於神經網絡技術實現的。再比如風控,根據大數據去勾勒人羣畫像,實現風險控制。再比如流程智能化,現在藉助OCR技術,很多票據機器可自動錄入,很多流程都可自動觸發。
再説説汽車行業的應用場景,比如無人駕駛。無人駕駛將成為智能芯片非常重要的應用場景。未來每一輛汽車都是移動的數據中心,它需要非常充沛的算力。其次,自動駕駛對於實時性要求很高,不能離線處理,必須數毫秒內做出判斷。當下,行業可能認為純靠車端的智能很難滿足未來複雜場景的自動駕駛需求,所以大家認為需要路側智能,來輔助智能汽車做一些決策。
再比如,在電力應用方面,寒武紀做了很多場景,包括輸電電路監控,智能變電站。還有交通方面,流量監控、交通事件監測,周圍入侵檢測等等,都是智能芯片典型的應用場景。
另外,在工業質檢領域,應用也很廣泛。比如,以前需要靠人眼檢測瑕疵,一天8小時盯着一個部件,有害於工人視力。現在基於計算機視覺技術,可能比人眼監測做得更準確高效。同時在工業機器人領域也正被大量應用。