來源：dingba
網絡安全的未來將由最近出現的新型微妙和隱秘的攻擊者驅動。他們的目的不是竊取數據，而是操縱或更改數據。毫無疑問，攻擊者將使用人工智能（AI）來推動網絡武器的下一個重大升級，並將最終開創惡意使用AI的先河。AI的基本學習和適應能力將迎來一個新時代，在這個時代中，高度定製和模仿人類的攻擊可以擴展。“攻擊性AI”-高度複雜和惡意的攻擊代碼-能夠在瞭解其環境時進行自我變異，並以最小的檢測機會對系統進行妥協。
原型AI攻擊：對未來的一瞥
人工智能驅動的網絡攻擊不是未來的假設概念。使用進攻性AI的所有必要構件已經存在：高度複雜的惡意軟件，出於經濟動機且無情的犯罪分子願意使用任何可能的手段來提高其投資回報率，以及開源AI研究項目，這些項目可提供非常有價值的信息在公共領域可用。
Emotet木馬是當今最臭名昭著的惡意軟件之一，是AI原型攻擊的一個典型示例。Emotet的主要分發機制是垃圾郵件網絡釣魚，通常是通過發票欺詐來誘騙用户單擊惡意電子郵件附件。Emotet作者最近在其木馬中添加了另一個模塊，該模塊可從受感染的受害者那裏竊取電子郵件數據。以前，這種電子郵件滲透功能的目的尚不清楚，但是最近發現Emotet大規模發送了上下文相關的網絡釣魚電子郵件。這意味着它可以自動將其自身插入到預先存在的電子郵件線程中，建議受害者單擊惡意附件，然後該附件將出現在最終的惡意電子郵件中。將惡意軟件插入到預先存在的電子郵件中可為網絡釣魚電子郵件提供更多上下文，從而使其看起來更加合法。
然而，創建Emotet背後的罪犯可以輕鬆利用AI來增強這種攻擊。當前，最終網絡釣魚電子郵件中的消息通常是高度通用的-例如，“請參閲附件”-有時可能會引起懷疑。但是，通過利用AI通過分析電子郵件線程的上下文來學習和複製自然語言的能力，這些網絡釣魚電子郵件可以變得非常適合於個人。這意味着人工智能驅動的Emotet木馬可以創建並插入完全定製的，更可信的網絡釣魚電子郵件。至關重要的是，它將能夠大規模發送這些信息，這將使犯罪分子極大地提高其行動的收益。
這些不斷髮展的攻擊方法的後果可能是高度破壞性的，甚至可能危及生命。通過破壞數據完整性，這些隱形攻擊會導致對組織的信任減弱，甚至可能導致系統故障。想象一下，使用錯誤的地質勘探數據在錯誤的位置鑽探石油的石油鑽機，或者醫生使用受損的醫療記錄進行診斷。隨着AI軍備競賽的繼續，我們只能期待這一創新圈不斷升級。
進攻性AI：網絡攻擊的範式轉變
2017年，WannaCry勒索軟件攻擊襲擊了全球150多個國家/地區的組織，標誌着網絡攻擊複雜性新時代的開始。它的成功在於它使癱瘓的硬盤驅動器在幾秒鐘內橫向移動整個組織的能力，此事件繼續激發了多次模仿攻擊。這種“創新”週期將持續下去，攻擊者已經開始使用加密貨幣挖礦惡意軟件，該軟件會秘密竊取處理能力，以挖掘比特幣和銀行木馬等數字貨幣，這是一種惡意軟件，會在偽裝成數字貨幣的同時竊取金融數據。真正的應用。
對抗性人工智能的使用將以三種關鍵方式影響安全格局：
1-模擬受信任的用户
AI攻擊將高度定製，但會大規模運行。這些惡意軟件將能夠通過分析電子郵件和社交媒體通信來學習個人行為和語言的細微差別。他們將能夠利用這些知識來複制用户的寫作風格，製作看起來可信度高的消息。因此，由AI惡意軟件編寫的消息幾乎不可能與真正的通信區分開。由於大多數攻擊都是通過收件箱進入我們的系統的，因此即使是最瞭解網絡的計算機用户也將很容易受到攻擊。
2-融入背景
複雜的威脅參與者通常可以一次在目標環境中長期存在幾個月，而不會被發現。他們緩慢而謹慎地採取行動，以逃避傳統的安全控制，並且通常針對特定的個人和組織。人工智能還將能夠學習主要的通信渠道以及最佳端口和協議，以用於在系統中移動，並與常規活動離散地融合在一起。這種在噪聲中偽裝自己的能力將意味着它能夠在數字環境中專業傳播，並且可以隱秘地危害更多設備。AI惡意軟件還將能夠以機器速度分析大量數據，從而快速確定哪些數據集有價值，哪些沒有。這將為（人類）攻擊者節省大量時間和精力。
3-更快的攻擊帶來更有效的後果
當今最複雜的攻擊要求技術熟練的技術人員對目標進行研究並確定目標個人，瞭解他們的社交網絡並隨着時間的推移觀察他們與數字平台的交互方式。在明天的世界中，進攻型人工智能將能夠在很短的時間內（甚至是規模的許多倍）達到相同的複雜程度。
AI驅動的攻擊不僅將變得更加量身定製，因此更加有效，它們理解上下文的能力意味着它們將更難被發現。傳統的安全控制措施對於這種新威脅將無能為力，因為它們只能發現可預測的，預先建模的活動。人工智能在不斷髮展，並且將越來越多地抵抗威脅的分類，而威脅的分類對於傳統安全方法的作案手法仍然至關重要。
將AI整合到數字生態系統中
隨着我們越來越依賴連接的系統和設備，我們正在快速開發高度先進且高度連接的數字生態系統。我們將需要優先考慮贏得重要戰略戰役的夥伴關係和能力，不僅要保護公共和私營部門擁有的具有經濟價值的數據，還要保護對鞏固社會凝聚力和民主體制的數字系統的信心。
在這一新興現實和不斷髮展的生態系統中，對新技術的投資將發揮關鍵作用。根據Forrester的“ 將AI用於邪惡”報告，“主流AI驅動的黑客行為只是時間問題”。確實，當我們開始看到AI成為網絡攻擊者工具包的一部分時，我們能夠打擊這種對AI的惡意使用的唯一方法就是AI本身。因此，將技術納入這個生態系統至關重要。
反擊：戰鬥機連機
網絡安全社區已經在這個新的未來上進行了大量投資，並且正在使用AI解決方案來快速檢測並遏制任何可能破壞或破壞關鍵數據的新興網絡威脅。防禦性AI不僅是對抗網絡攻擊的技術優勢，而且還是這個新戰場上至關重要的盟友。組織將不再使用安全人員手動對事件進行響應，而是會在短期內使用AI來應對不斷髮展的問題，而人力團隊將監督AI的決策並執行補救工作，以長期提高整體彈性術語。
由AI驅動的攻擊將超過人類響應團隊，並勝過當前基於傳統的防禦。因此，人類與人工智能之間相互依賴的夥伴關係將成為未來國防戰略的基石。未來的戰場是數字化，而AI是無可爭議的選擇武器。應對網絡安全的下一代挑戰沒有靈丹妙藥，但有一點很明確：只有AI才能在自己的遊戲中玩AI。該技術已經可用，現在可以進行準備了。
最新的AI網絡攻擊案例
最新的AI輔助網絡攻擊之一是TaskRabbit（自由職業者及其客户的在線市場）遭到黑客攻擊。2018年4月，有 375萬該網站的用户從其用户數據中竊取了其社會保險號和銀行帳户詳細信息，從而受到影響。攻擊是由黑客使用由AI控制的大型殭屍網絡進行的，該殭屍網絡使用從屬計算機對TaskRabbit的服務器進行大規模的DDoS攻擊。攻擊是如此激烈，以致在恢復安全性之前必須禁用整個站點。不幸的是，在此期間，又有1.41億用户受到影響。
我們也不要忘記WordPress最近透露其網站遭到了殭屍網絡的大規模攻擊。到目前為止，已有超過20,000個WordPress網站感染了殭屍網絡式的網絡攻擊，最終可能使黑客能夠訪問用户的個人信息和信用卡號。這種攻擊使許多用户，甚至那些擁有出色託管服務的用户都對WordPress失去了信心。
最近，社交媒體巨頭Instagram僅在2019年就遭受了兩次網絡攻擊。從8月開始，許多Instagram用户發現他們的帳户信息已被黑客更改，從而將其鎖定在他們的社交資料之外。11月，Instagram代碼中的錯誤導致數據泄露，該數據泄露在用户瀏覽器的URL中顯示用户的密碼-可以肯定，這是一個巨大的安全問題。儘管Instagram迄今未能發佈有關該黑客的詳細信息，但許多人推測黑客正在使用AI系統掃描Instagram用户數據中的潛在漏洞。
總體而言，很明顯，無論是殭屍網絡攻擊還是一般的惡意軟件傳播，AI輔助的攻擊只會變得更糟。
簡而言之，單個較小的安全漏洞現在有可能導致更嚴重的漏洞。即使您已經勾選了基本的互聯網安全保護框- 設置防火牆，定期掃描惡意軟件，使用安全的CMS（如WordPress）和經驗豐富的網絡安全團隊-擁有具備必要的技術和專門知識的黑客大多數安全漏洞都會這樣做。
機器人的崛起
可以看到AI輔助網絡攻擊影響我們日常生活的最大方法之一是通過Twitter。我們都曾聽到一個政黨或另一個政黨指責另一個政黨使用“機器人”來歪曲論點，或者使某些派別似乎擁有比實際更多的追隨者。
機器人本身並不是什麼大事，許多公司和服務都使用機器人來吸引客户，並通過網站的不同區域吸引人們。我們都已經在您可能有疑問的網站（例如大學的主頁）上看到了由機器人驅動的聊天框。
但是，機器人的真正問題在於它們變得越來越複雜。具有諷刺意味的是，圖靈測試變得越來越困難，即使人們曾經幾乎普遍無法通過機器考試，人們也很難將機器人與真實人區分開。谷歌最近為AI生成的音頻和視頻提供了更高的指標，證明了這一趨勢。
這些機器人很容易被用於錯誤信息，例如當用户編組它們以虛假海報充斥Twitter線程以影響論點時。但是它們也可以用來對敵人的計算機和網絡進行DDoS攻擊。誠然，這種攻擊已經存在於黑客和青少年的工具包中，數十年來他們的手頭時間太多。但是臭名昭著的時刻，例如一羣黑客使用各種DDoS攻擊摧毀PS4網絡的時間，證明了這個問題。
更不用説只在Facebook和Twitter上進行垃圾郵件處理的機器人比其人類同行更擅長於此。儘管機器比垃圾郵件要好，這在某種程度上是很幽默的，但是在認真對待在線討論論壇之前，這仍然是一個必須解決的實際問題。許多人甚至可能説，即使威脅不是您所期望的，如此大規模的錯誤信息也是一種網絡攻擊。
防禦策略
適應這些威脅的困難之一是它們迅速發展，並且使黑客比以前更容易被隱藏。顯然，要找出誰是殭屍網絡攻擊的幕後主力，比孤立的演員要困難得多。
事情也很棘手，因為防禦AI網絡攻擊並不像使用httpS保護網站的http標籤那樣簡單。通常，您的信息很容易受到攻擊，因為它掌握在其他公司的手中，而這些公司可能不太安全，或者您的密碼可能已泄露。對於運行AI輔助攻擊的黑客來説，以這種方式泄漏的數據值得其金幣，因為它可以用於“饋送”正在尋找用户數據模式和公司系統漏洞的AI引擎。
因此，有些人想知道我們是否能夠使用AI扭轉潮流。畢竟，用更多的AI對抗人工智能確實是一種有效的前進之路。
抵制殭屍程序在政治或社交媒體上的垃圾郵件的最佳方法之一是使用機器學習殭屍程序檢測程序。一些公司和組織已經開發了這些。Botometer是由印第安納大學網絡科學研究所（開發出一種機器人檢測應用IUNI）和中心的複雜網絡與系統研究（CNetS）。同樣，對於開發人員，還有Tweetbotornot，這是由密蘇里大學信息學研究所教授Michael Kearney創建的面向開發人員的開源軟件包。
這些程序使用與機器人相同的算法方法，以使其在中斷時更有效，以告訴機器人何時處於所有混亂之中。它的工作方式各不相同：有時是生物特徵識別，有時是基於先前的用户數據（如果帳户被黑客入侵）。
另一個可能的解決方案是使用AI增強的事實檢查。從中受益的機器學習和算法比僱用許多人來檢查每天產生的數百萬條推文和社交媒體帖子要有效得多。可能會導致錯誤信息產生的同類人工智能系統在將來解決該錯誤信息。
AI也不是唯一的前進方向。網絡安全團隊採取的預防性或主動性安全方法可能會比典型的防病毒措施產生更大的安全性結果。專注於加強基本的網絡安全防禦是一種使潛在的黑客工作更加困難的方法。
此外，AI無法提供強大的密碼安全性和生成功能。基本的數字衞生習慣（例如依賴於您經常之間交替使用的強密碼）可以為家庭網絡或公司的一般安全性做很多工作。許多公司都在為其僱員舉辦教育研討會上的定期會議，以使所有人都可以共享和理解基本的計算機安全性。
既然物聯網正在發揮作用，這一點就變得更加重要。如果讓黑客進入您的Netflix帳户足以使他們最終獲得對其他所有內容的訪問權限，則您的網絡中實際上沒有任何地方可以提供低於標準的安全性。聽起來有些過分，但是當AI成為網絡安全遊戲中如此重要的參與者時，這就是現實。
結論
最終，由於AI已成為黑客掌握的主要工具，因此數字安全的未來還不確定。儘管AI可能是抵禦這類網絡攻擊和錯誤信息活動的有效屏障，但網絡安全機構和網站開發人員將需要以更具創新性的解決方案做出響應，以有效保護其用户數據。
儘管如此，人工智能網絡攻擊的興起仍可能產生一些有趣的發展。長期以來，我們已經習慣了Internet，對於許多普通人羣來説，完全安全並不是完全必要的。如果不再懶惰，最終結果可能是互聯網比以前更安全，更成熟。
文章來源：世界經濟論壇、InfoQ
作者簡介：
威廉·迪克森（William Dixon），世界經濟論壇未來網絡與技術負責人
妮可·伊根（Nicole Eagan），Darktrace首席執行官
山姆·博塞塔（Sam Bocetta），前海軍網絡工程師、安全分析師
注：原文來源網絡，文中觀點不代表本公眾號立場，相關建議僅供參考。
