本文來自千家網(wǎng)。
未來幾年,人工智能將成為網(wǎng)絡(luò)威脅和公司應(yīng)對這些威脅的主要因素。以下是應(yīng)對這些新威脅以及決定如何將人工智能融入網(wǎng)絡(luò)安全運(yùn)營時(shí)需要牢記的一些主要趨勢。
人工智能極大地加快了網(wǎng)絡(luò)威脅形勢的變化速度。它大大降低了全球網(wǎng)絡(luò)犯罪分子的進(jìn)入門檻,從廣泛使用的強(qiáng)大社交工程工具(如大型語言模型(LLM)和深度偽造)到人工智能驅(qū)動的監(jiān)控和數(shù)據(jù)分析。與此同時(shí),企業(yè)越來越多地使用人工智能通過漏洞評估、補(bǔ)救和自動化安全任務(wù)來加強(qiáng)其網(wǎng)絡(luò)防御。
趨勢一:人工智能將推動新一波社會工程攻擊
LLM和深度偽造的出現(xiàn)將使社會工程變得更加有效。根據(jù)《2024年數(shù)據(jù)泄露調(diào)查報(bào)告》,68%的泄露事件涉及人為因素。這就是為什么網(wǎng)絡(luò)犯罪分子利用其武器庫中的新AI武器來欺騙和操縱員工以滲透網(wǎng)絡(luò)、竊取敏感信息并竊取資金。
例如,網(wǎng)絡(luò)犯罪分子正在使用LLM大量制作高度個(gè)性化且令人信服的網(wǎng)絡(luò)釣魚信息,受害者更有可能點(diǎn)擊這些信息。谷歌報(bào)告稱,公司應(yīng)該預(yù)料到LLM會被“用于網(wǎng)絡(luò)釣魚、短信和其他社會工程操作”。與此同時(shí),微軟已經(jīng)觀察到全球主要網(wǎng)絡(luò)犯罪組織廣泛使用LLM。
網(wǎng)絡(luò)犯罪分子還利用深度偽造發(fā)起復(fù)雜的多層次網(wǎng)絡(luò)攻擊。例如,受害者收到網(wǎng)絡(luò)釣魚信息后,可能會打電話確認(rèn),最終與深度偽造的對話者交談。
趨勢二:人工智能將迫使企業(yè)重新評估現(xiàn)有的網(wǎng)絡(luò)安全流程
雖然人工智能為企業(yè)提供了比以往更廣泛的網(wǎng)絡(luò)安全工具,但該技術(shù)的快速發(fā)展也引發(fā)了一場人工智能軍備競賽——隨著防御能力的提高,入侵方法也在不斷改進(jìn)。這意味著首席信息安全官和其他安全領(lǐng)導(dǎo)者將不得不重新評估幾種主要的網(wǎng)絡(luò)安全機(jī)制。
例如,深度偽造將使生物特征身份驗(yàn)證變得不那么有效,最新研究發(fā)現(xiàn),到2026年,30%的企業(yè)將不再認(rèn)為這些“身份驗(yàn)證解決方案單獨(dú)來看是可靠的”。各家企業(yè)正在建立支持人工智能的“身份威脅檢測和響應(yīng)”工具,例如根據(jù)內(nèi)容、發(fā)件人憑證和電子郵件標(biāo)頭信息分析消息的網(wǎng)絡(luò)釣魚防御。但網(wǎng)絡(luò)犯罪分子也在借助LLM和其他人工智能工具開發(fā)變通方法,而網(wǎng)絡(luò)釣魚仍然是最常見且成本第二高的初始攻擊媒介。
預(yù)計(jì)到2025年,人工智能將要求企業(yè)在應(yīng)用和數(shù)據(jù)安全方面的支出至少增加15%。這與其他研究一致,例如普華永道最近的一份報(bào)告發(fā)現(xiàn),79%的高管將在2024年增加網(wǎng)絡(luò)支出,高于2023年的64%。首席信息安全官和其他安全領(lǐng)導(dǎo)者必須確定如何盡可能有效地進(jìn)行這些投資。
趨勢三:人工智能將對供應(yīng)鏈網(wǎng)絡(luò)安全產(chǎn)生重大影響
供應(yīng)鏈泄露是最具破壞性的網(wǎng)絡(luò)攻擊之一。SolarWinds黑客攻擊是有史以來最大的入侵事件之一,該企業(yè)發(fā)現(xiàn)“最有可能的攻擊媒介是通過第三方應(yīng)用獲取憑證和/或訪問。”根據(jù)Verizon的最新數(shù)據(jù),2023年至2024年間,涉及泄露的“供應(yīng)鏈互連”數(shù)量增加了68%。
預(yù)計(jì)到2025年,全球45%的組織將遭受針對其軟件供應(yīng)鏈的網(wǎng)絡(luò)攻擊,這一數(shù)字比2021年增加了三倍。供應(yīng)鏈網(wǎng)絡(luò)攻擊的新時(shí)代已經(jīng)到來。IBM報(bào)告稱,2023年27%的總違規(guī)行為可歸因于對軟件或業(yè)務(wù)合作伙伴供應(yīng)鏈的攻擊。
企業(yè)可以使用人工智能來運(yùn)行模擬,以反映潛在的供應(yīng)鏈攻擊,檢測欺詐和惡意網(wǎng)絡(luò)活動,并幫助企業(yè)在發(fā)生違規(guī)時(shí)縮短響應(yīng)時(shí)間。但人工智能也允許網(wǎng)絡(luò)犯罪分子探測供應(yīng)鏈中潛在的薄弱環(huán)節(jié),并發(fā)起社會工程攻擊,讓他們立足于關(guān)鍵接入點(diǎn)。這些提醒我們,在整個(gè)供應(yīng)鏈中實(shí)施正確的安全協(xié)議至關(guān)重要,從人工智能識別和響應(yīng)系統(tǒng)到高質(zhì)量的網(wǎng)絡(luò)安全意識培訓(xùn)。
趨勢四:人工智能時(shí)代,全面的網(wǎng)絡(luò)安全至關(guān)重要
人工智能軍備競賽愈演愈烈,企業(yè)不能再等待最新的網(wǎng)絡(luò)安全技術(shù)發(fā)布。在社交工程仍然是大多數(shù)網(wǎng)絡(luò)攻擊的首選策略的時(shí)代,安全領(lǐng)導(dǎo)者必須確保在企業(yè)的各個(gè)層面培養(yǎng)網(wǎng)絡(luò)安全文化,并為員工提供保護(hù)組織所需的資源。
IBM表示,員工培訓(xùn)是數(shù)據(jù)泄露總體成本中最重要的緩解因素之一,其作用超過了保險(xiǎn)、加密、人工智能驅(qū)動的洞察力和其他資源。人工智能和網(wǎng)絡(luò)安全培訓(xùn)應(yīng)該相輔相成。預(yù)計(jì)到2028年,威脅檢測和事件響應(yīng)中的多智能體人工智能占人工智能實(shí)施的比例將從5%上升到70%,主要用于增強(qiáng)員工能力,而不是取代員工。
網(wǎng)絡(luò)安全意識培訓(xùn)必須不斷發(fā)展以滿足人工智能時(shí)代的需求。這不僅僅意味著培訓(xùn)員工識別復(fù)雜的LLM生成的網(wǎng)絡(luò)釣魚消息和深度偽造。它還意味著利用人工智能生成預(yù)測行為檔案,通過定制干預(yù)措施解決員工的特定弱點(diǎn),并在員工不再信任自己的眼睛和耳朵的時(shí)代賦予員工阻止網(wǎng)絡(luò)攻擊的能力。企業(yè)必須優(yōu)先投資于人工智能增強(qiáng)員工隊(duì)伍,而不僅僅是任務(wù)自動化。為GenAI帶來的短期支出增加和長期技能需求變化做好準(zhǔn)備。
近90%的組織仍在研究或試用生成式人工智能,因此很難預(yù)測哪些技術(shù)和應(yīng)用會隨著炒作周期而消退,哪些技術(shù)和應(yīng)用會繼續(xù)存在。但企業(yè)可以通過制定全面的網(wǎng)絡(luò)安全戰(zhàn)略來應(yīng)對未來的任何情況,該戰(zhàn)略既能利用人工智能的力量,又能讓員工做好準(zhǔn)備,抵御這項(xiàng)革命性技術(shù)帶來的快速演變的威脅。