來源：dingba
網路安全的未來將由最近出現的新型微妙和隱秘的攻擊者驅動。他們的目的不是竊取資料，而是操縱或更改資料。毫無疑問，攻擊者將使用人工智慧（AI）來推動網路武器的下一個重大升級，並將最終開創惡意使用AI的先河。AI的基本學習和適應能力將迎來一個新時代，在這個時代中，高度定製和模仿人類的攻擊可以擴充套件。“攻擊性AI”-高度複雜和惡意的攻擊程式碼-能夠在瞭解其環境時進行自我變異，並以最小的檢測機會對系統進行妥協。
原型AI攻擊：對未來的一瞥
人工智慧驅動的網路攻擊不是未來的假設概念。使用進攻性AI的所有必要構件已經存在：高度複雜的惡意軟體，出於經濟動機且無情的犯罪分子願意使用任何可能的手段來提高其投資回報率，以及開源AI研究專案，這些專案可提供非常有價值的資訊在公共領域可用。
Emotet木馬是當今最臭名昭著的惡意軟體之一，是AI原型攻擊的一個典型示例。Emotet的主要分發機制是垃圾郵件網路釣魚，通常是透過發票欺詐來誘騙使用者單擊惡意電子郵件附件。Emotet作者最近在其木馬中添加了另一個模組，該模組可從受感染的受害者那裡竊取電子郵件資料。以前，這種電子郵件滲透功能的目的尚不清楚，但是最近發現Emotet大規模傳送了上下文相關的網路釣魚電子郵件。這意味著它可以自動將其自身插入到預先存在的電子郵件執行緒中，建議受害者單擊惡意附件，然後該附件將出現在最終的惡意電子郵件中。將惡意軟體插入到預先存在的電子郵件中可為網路釣魚電子郵件提供更多上下文，從而使其看起來更加合法。
然而，建立Emotet背後的罪犯可以輕鬆利用AI來增強這種攻擊。當前，最終網路釣魚電子郵件中的訊息通常是高度通用的-例如，“請參閱附件”-有時可能會引起懷疑。但是，透過利用AI透過分析電子郵件執行緒的上下文來學習和複製自然語言的能力，這些網路釣魚電子郵件可以變得非常適合於個人。這意味著人工智慧驅動的Emotet木馬可以建立並插入完全定製的，更可信的網路釣魚電子郵件。至關重要的是，它將能夠大規模傳送這些資訊，這將使犯罪分子極大地提高其行動的收益。
這些不斷髮展的攻擊方法的後果可能是高度破壞性的，甚至可能危及生命。透過破壞資料完整性，這些隱形攻擊會導致對組織的信任減弱，甚至可能導致系統故障。想象一下，使用錯誤的地質勘探資料在錯誤的位置鑽探石油的石油鑽機，或者醫生使用受損的醫療記錄進行診斷。隨著AI軍備競賽的繼續，我們只能期待這一創新圈不斷升級。
進攻性AI：網路攻擊的正規化轉變
2017年，WannaCry勒索軟體攻擊襲擊了全球150多個國家/地區的組織，標誌著網路攻擊複雜性新時代的開始。它的成功在於它使癱瘓的硬碟驅動器在幾秒鐘內橫向移動整個組織的能力，此事件繼續激發了多次模仿攻擊。這種“創新”週期將持續下去，攻擊者已經開始使用加密貨幣挖礦惡意軟體，該軟體會秘密竊取處理能力，以挖掘比特幣和銀行木馬等數字貨幣，這是一種惡意軟體，會在偽裝成數字貨幣的同時竊取金融資料。真正的應用。
對抗性人工智慧的使用將以三種關鍵方式影響安全格局：
1-模擬受信任的使用者
AI攻擊將高度定製，但會大規模執行。這些惡意軟體將能夠透過分析電子郵件和社交媒體通訊來學習個人行為和語言的細微差別。他們將能夠利用這些知識來複制使用者的寫作風格，製作看起來可信度高的訊息。因此，由AI惡意軟體編寫的訊息幾乎不可能與真正的通訊區分開。由於大多數攻擊都是透過收件箱進入我們的系統的，因此即使是最瞭解網路的計算機使用者也將很容易受到攻擊。
2-融入背景
複雜的威脅參與者通常可以一次在目標環境中長期存在幾個月，而不會被發現。他們緩慢而謹慎地採取行動，以逃避傳統的安全控制，並且通常針對特定的個人和組織。人工智慧還將能夠學習主要的通訊渠道以及最佳埠和協議，以用於在系統中移動，並與常規活動離散地融合在一起。這種在噪聲中偽裝自己的能力將意味著它能夠在數字環境中專業傳播，並且可以隱秘地危害更多裝置。AI惡意軟體還將能夠以機器速度分析大量資料，從而快速確定哪些資料集有價值，哪些沒有。這將為（人類）攻擊者節省大量時間和精力。
3-更快的攻擊帶來更有效的後果
當今最複雜的攻擊要求技術熟練的技術人員對目標進行研究並確定目標個人，瞭解他們的社交網路並隨著時間的推移觀察他們與數字平臺的互動方式。在明天的世界中，進攻型人工智慧將能夠在很短的時間內（甚至是規模的許多倍）達到相同的複雜程度。
AI驅動的攻擊不僅將變得更加量身定製，因此更加有效，它們理解上下文的能力意味著它們將更難被發現。傳統的安全控制措施對於這種新威脅將無能為力，因為它們只能發現可預測的，預先建模的活動。人工智慧在不斷髮展，並且將越來越多地抵抗威脅的分類，而威脅的分類對於傳統安全方法的作案手法仍然至關重要。
將AI整合到數字生態系統中
隨著我們越來越依賴連線的系統和裝置，我們正在快速開發高度先進且高度連線的數字生態系統。我們將需要優先考慮贏得重要戰略戰役的夥伴關係和能力，不僅要保護公共和私營部門擁有的具有經濟價值的資料，還要保護對鞏固社會凝聚力和民主體制的數字系統的信心。
在這一新興現實和不斷髮展的生態系統中，對新技術的投資將發揮關鍵作用。根據Forrester的“ 將AI用於邪惡”報告，“主流AI驅動的駭客行為只是時間問題”。確實，當我們開始看到AI成為網路攻擊者工具包的一部分時，我們能夠打擊這種對AI的惡意使用的唯一方法就是AI本身。因此，將技術納入這個生態系統至關重要。
反擊：戰鬥機連機
網路安全社群已經在這個新的未來上進行了大量投資，並且正在使用AI解決方案來快速檢測並遏制任何可能破壞或破壞關鍵資料的新興網路威脅。防禦性AI不僅是對抗網路攻擊的技術優勢，而且還是這個新戰場上至關重要的盟友。組織將不再使用安全人員手動對事件進行響應，而是會在短期內使用AI來應對不斷髮展的問題，而人力團隊將監督AI的決策並執行補救工作，以長期提高整體彈性術語。
由AI驅動的攻擊將超過人類響應團隊，並勝過當前基於傳統的防禦。因此，人類與人工智慧之間相互依賴的夥伴關係將成為未來國防戰略的基石。未來的戰場是數字化，而AI是無可爭議的選擇武器。應對網路安全的下一代挑戰沒有靈丹妙藥，但有一點很明確：只有AI才能在自己的遊戲中玩AI。該技術已經可用，現在可以進行準備了。
最新的AI網路攻擊案例
最新的AI輔助網路攻擊之一是TaskRabbit（自由職業者及其客戶的線上市場）遭到駭客攻擊。2018年4月，有 375萬該網站的使用者從其使用者資料中竊取了其社會保險號和銀行帳戶詳細資訊，從而受到影響。攻擊是由駭客使用由AI控制的大型殭屍網路進行的，該殭屍網路使用從屬計算機對TaskRabbit的伺服器進行大規模的DDoS攻擊。攻擊是如此激烈，以致在恢復安全性之前必須禁用整個站點。不幸的是，在此期間，又有1.41億使用者受到影響。
我們也不要忘記WordPress最近透露其網站遭到了殭屍網路的大規模攻擊。到目前為止，已有超過20,000個WordPress網站感染了殭屍網路式的網路攻擊，最終可能使駭客能夠訪問使用者的個人資訊和信用卡號。這種攻擊使許多使用者，甚至那些擁有出色託管服務的使用者都對WordPress失去了信心。
最近，社交媒體巨頭Instagram僅在2019年就遭受了兩次網路攻擊。從8月開始，許多Instagram使用者發現他們的帳戶資訊已被駭客更改，從而將其鎖定在他們的社交資料之外。11月，Instagram程式碼中的錯誤導致資料洩露，該資料洩露在使用者瀏覽器的URL中顯示使用者的密碼-可以肯定，這是一個巨大的安全問題。儘管Instagram迄今未能釋出有關該駭客的詳細資訊，但許多人推測駭客正在使用AI系統掃描Instagram使用者資料中的潛在漏洞。
總體而言，很明顯，無論是殭屍網路攻擊還是一般的惡意軟體傳播，AI輔助的攻擊只會變得更糟。
簡而言之，單個較小的安全漏洞現在有可能導致更嚴重的漏洞。即使您已經勾選了基本的網際網路安全保護框- 設定防火牆，定期掃描惡意軟體，使用安全的CMS（如WordPress）和經驗豐富的網路安全團隊-擁有具備必要的技術和專門知識的駭客大多數安全漏洞都會這樣做。
機器人的崛起
可以看到AI輔助網路攻擊影響我們日常生活的最大方法之一是透過Twitter。我們都曾聽到一個政黨或另一個政黨指責另一個政黨使用“機器人”來歪曲論點，或者使某些派別似乎擁有比實際更多的追隨者。
機器人本身並不是什麼大事，許多公司和服務都使用機器人來吸引客戶，並透過網站的不同區域吸引人們。我們都已經在您可能有疑問的網站（例如大學的主頁）上看到了由機器人驅動的聊天框。
但是，機器人的真正問題在於它們變得越來越複雜。具有諷刺意味的是，圖靈測試變得越來越困難，即使人們曾經幾乎普遍無法透過機器考試，人們也很難將機器人與真實人區分開。谷歌最近為AI生成的音訊和影片提供了更高的指標，證明了這一趨勢。
這些機器人很容易被用於錯誤資訊，例如當用戶編組它們以虛假海報充斥Twitter執行緒以影響論點時。但是它們也可以用來對敵人的計算機和網路進行DDoS攻擊。誠然，這種攻擊已經存在於駭客和青少年的工具包中，數十年來他們的手頭時間太多。但是臭名昭著的時刻，例如一群駭客使用各種DDoS攻擊摧毀PS4網路的時間，證明了這個問題。
更不用說只在Facebook和Twitter上進行垃圾郵件處理的機器人比其人類同行更擅長於此。儘管機器比垃圾郵件要好，這在某種程度上是很幽默的，但是在認真對待線上討論論壇之前，這仍然是一個必須解決的實際問題。許多人甚至可能說，即使威脅不是您所期望的，如此大規模的錯誤資訊也是一種網路攻擊。
防禦策略
適應這些威脅的困難之一是它們迅速發展，並且使駭客比以前更容易被隱藏。顯然，要找出誰是殭屍網路攻擊的幕後主力，比孤立的演員要困難得多。
事情也很棘手，因為防禦AI網路攻擊並不像使用httpS保護網站的http標籤那樣簡單。通常，您的資訊很容易受到攻擊，因為它掌握在其他公司的手中，而這些公司可能不太安全，或者您的密碼可能已洩露。對於執行AI輔助攻擊的駭客來說，以這種方式洩漏的資料值得其金幣，因為它可以用於“饋送”正在尋找使用者資料模式和公司系統漏洞的AI引擎。
因此，有些人想知道我們是否能夠使用AI扭轉潮流。畢竟，用更多的AI對抗人工智慧確實是一種有效的前進之路。
抵制殭屍程式在政治或社交媒體上的垃圾郵件的最佳方法之一是使用機器學習殭屍程式檢測程式。一些公司和組織已經開發了這些。Botometer是由印第安納大學網路科學研究所（開發出一種機器人檢測應用IUNI）和中心的複雜網路與系統研究（CNetS）。同樣，對於開發人員，還有Tweetbotornot，這是由密蘇里大學資訊學研究所教授Michael Kearney建立的面向開發人員的開源軟體包。
這些程式使用與機器人相同的演算法方法，以使其在中斷時更有效，以告訴機器人何時處於所有混亂之中。它的工作方式各不相同：有時是生物特徵識別，有時是基於先前的使用者資料（如果帳戶被駭客入侵）。
另一個可能的解決方案是使用AI增強的事實檢查。從中受益的機器學習和演算法比僱用許多人來檢查每天產生的數百萬條推文和社交媒體帖子要有效得多。可能會導致錯誤資訊產生的同類人工智慧系統在將來解決該錯誤資訊。
AI也不是唯一的前進方向。網路安全團隊採取的預防性或主動性安全方法可能會比典型的防病毒措施產生更大的安全性結果。專注於加強基本的網路安全防禦是一種使潛在的駭客工作更加困難的方法。
此外，AI無法提供強大的密碼安全性和生成功能。基本的數字衛生習慣（例如依賴於您經常之間交替使用的強密碼）可以為家庭網路或公司的一般安全性做很多工作。許多公司都在為其僱員舉辦教育研討會上的定期會議，以使所有人都可以共享和理解基本的計算機安全性。
既然物聯網正在發揮作用，這一點就變得更加重要。如果讓駭客進入您的Netflix帳戶足以使他們最終獲得對其他所有內容的訪問許可權，則您的網路中實際上沒有任何地方可以提供低於標準的安全性。聽起來有些過分，但是當AI成為網路安全遊戲中如此重要的參與者時，這就是現實。
結論
最終，由於AI已成為駭客掌握的主要工具，因此數字安全的未來還不確定。儘管AI可能是抵禦這類網路攻擊和錯誤資訊活動的有效屏障，但網路安全機構和網站開發人員將需要以更具創新性的解決方案做出響應，以有效保護其使用者資料。
儘管如此，人工智慧網路攻擊的興起仍可能產生一些有趣的發展。長期以來，我們已經習慣了Internet，對於許多普通人群來說，完全安全並不是完全必要的。如果不再懶惰，最終結果可能是網際網路比以前更安全，更成熟。
文章來源：世界經濟論壇、InfoQ
作者簡介：
威廉·迪克森（William Dixon），世界經濟論壇未來網路與技術負責人
妮可·伊根（Nicole Eagan），Darktrace執行長
山姆·博塞塔（Sam Bocetta），前海軍網路工程師、安全分析師
注：原文來源網路，文中觀點不代表本公眾號立場，相關建議僅供參考。
