本文來自至頂網(wǎng)（www.tmtpost.com），來源 | 至頂網(wǎng)網(wǎng)絡與安全頻道。
有網(wǎng)絡安全專家表示，雖然企業(yè)組織并不總是能夠準確指出生成式AI在網(wǎng)絡攻擊中發(fā)揮的作用，但可以假設它在網(wǎng)絡釣魚和社會工程攻擊中已經(jīng)變得無處不在了。隨著OpenAI ChatGPT等工具的出現(xiàn)以及對攻擊者用戶的突顯，“你可以假設復雜性和準確性都有所提高，以及網(wǎng)絡釣魚和社會工程中語言學發(fā)生的變化，”托管檢測和響應提供商Blackpoint Cyber安全副總裁MacKenzie Brown這樣表示。
但有專家稱，盡管生成式AI應用無疑是目前對攻擊者“最有用處的”，但仍有許多新興威脅利用這項技術(shù)來加快攻擊的速度和復雜性。
有專家表示，對于大多數(shù)組織來說，最重要的是，即使生成式AI在防御方面取得了進展，但威脅環(huán)境仍將繼續(xù)受到AI攻擊的影響。
歸根結(jié)底，對于那些擁有成熟安全計劃的組織來說，生成式AI的到來“只是加速和改進了他們多年來已知的攻擊媒介”，總部位于丹佛的Optiv公司大數(shù)據(jù)和分析業(yè)務總監(jiān)Randy Lariar這樣表示。
然而“我認為，更大的問題可能是企業(yè)在安全領(lǐng)域落后了，或者沒有將安全與業(yè)務使命完全結(jié)合起來，”Lariar說。“如果只是完成了一個選項或者滿足了保險要求，那么就是可能存在一些差距的。”
下面就讓我們來看看2024年生成式AI帶來的五種新型安全威脅。
加速攻擊
安全專家表示，生成式AI帶來的最大威脅并不是新的策略或技術(shù)，而是讓網(wǎng)絡犯罪分子和黑客使用的現(xiàn)有方法進一步加速了。網(wǎng)絡安全巨頭Sophos的全球首席技術(shù)官Chester Wisniewski表示，生成式AI讓威脅行為者“可以做他們一直在做的事情，但速度要快得多了”。
“以前一天的窗口期，現(xiàn)在可能只需要四小時。以前四小時的窗口期，現(xiàn)在可能只需要十分鐘，”Wisniewski說。他表示，過去攻擊者攻擊10萬個受害者所需的工作量，現(xiàn)在可能足以在同樣的時間內(nèi)攻擊1000萬個受害者。
例如，根據(jù)Sophos X-Ops的研究，攻擊者在實施所謂的“殺豬”騙局時，已經(jīng)能夠使用新的AI功能來擴大范圍，以前“必須向每個受害者發(fā)送短信，然后找出哪些人會回復并回復他們。這是一個速度慢得多、規(guī)模小得多的過程，”Wisniewski。但是現(xiàn)在，“我們有證據(jù)表明ChatGPT正被用于自動化這些對話的初始階段。”
最終，“通過自動化進行的這些 [攻擊] 的規(guī)模和范圍使更多的人面臨比我們在 AI 出現(xiàn)之前看到的更多此類威脅，”Wisniewski 說。“我的粗略計算表明，我們從一個人每天可以嘗試欺騙 1,000 人，到一個人通過自動化每天可以欺騙 100,000 人。”
惡意軟件更容易躲避檢測
據(jù)專家稱，AI生成的代碼大體上是現(xiàn)有惡意軟件的衍生品，通常會讓安全工具很容易檢測到。這意味著生成式AI工具在生成惡意軟件方面的用處是有限的，Wisniewski說。
與此同時，根據(jù)Blackpoint Cyber公司的Brown稱，生成式AI可以更有效地改進現(xiàn)有惡意軟件以繞過檢測。她說：“我們發(fā)現(xiàn)威脅行為者現(xiàn)在使用AI來幫助修改現(xiàn)有的惡意軟件，而這些惡意軟件不一定附帶簽名。如果他們可以修改簽名的顯示方式，就可以通過這種方式逃避[防病毒軟件]。他們正在利用生成式AI來操控惡意軟件，重新打造新的惡意軟件。”
攻擊行為更加個性化
專家表示，威脅行為者可以利用生成式AI來改善針對性攻擊的個性化，范圍十分廣泛。Brown表示，生成式AI在“研究和偵察方面發(fā)揮著巨大作用，就像我們使用AI來提高效率一樣，威脅行為者也使用AI來提高效率。”
換句話說，攻擊者能夠通過互聯(lián)網(wǎng)上的個人研究減少他們需要收集的大部分信息，“他們能夠以更有效的方式做到這一點。”
Brown表示：“現(xiàn)在他們可以根據(jù)實際組織、行業(yè)本身來定制攻擊。他們正在利用能夠收集到的一切信息，從而減少研究和偵察的工作量，讓初始訪問變得更快。他們知道要攻擊哪些外部系統(tǒng)，知道要攻擊哪些目標，知道什么能讓他們通過社交工程進入，或者創(chuàng)建一些腳本和自動化，這樣他們一旦進入環(huán)境就能更快地傳播出去。”
音頻偽造進一步升級
根據(jù)身份驗證供應商Regula最近的一份報告，受訪企業(yè)中有近半數(shù)表示，在過去兩年中，他們成為音頻偽造攻擊的目標，這表明，語音克隆攻擊已經(jīng)變得如此普遍。毫無疑問，語音克隆技術(shù)已經(jīng)發(fā)展到既易于使用又能夠制作令人信服的假音頻的地步，Wisniewski表示。
相比之下，“一年前的[克隆技術(shù)]，如果不下功夫就不會足夠好，”Wisniewski說。然而，最近，他能夠在五分鐘內(nèi)制作出令人信服的偽造音頻。
“既然現(xiàn)在都實現(xiàn)了，犯罪分子就更容易獲得它了，”Wisniewski說。
Palo Alto Networks 42號部門威脅研究技術(shù)總監(jiān)Kyle Wilhoit表示，雖然這項技術(shù)還不足以實時生成深度偽造音頻，但會繼續(xù)改進。“我想說，將來這種可能性會更大，”Wilhoit說。
更容易利用漏洞
Wisniewski還認為，生成式AI可以在幫助攻擊者開發(fā)新漏洞方面發(fā)揮作用。他指出，雖然現(xiàn)有工具已經(jīng)可以自動生成軟件中可能被利用的漏洞，但人類仍然必須確定是否真的有可能被利用。
然而，現(xiàn)在生成式AI工具可以通過幫助分析潛在漏洞的變體來加快處理速度，Wisniewski說：“AI可能會說，‘這是一個很有潛力的漏洞’。”
最終，“這將是我會關(guān)注的一個領(lǐng)域——是否存在一種服務經(jīng)濟體，主要針對高端行為者的，他們可以付給某人5萬美金，讓他們完成25種不同的攻擊行為？”Wisniewski說。
