本文來自千家網(wǎng)。
未來幾年，人工智能將成為網(wǎng)絡(luò)威脅和公司應(yīng)對這些威脅的主要因素。以下是應(yīng)對這些新威脅以及決定如何將人工智能融入網(wǎng)絡(luò)安全運(yùn)營時(shí)需要牢記的一些主要趨勢。
人工智能極大地加快了網(wǎng)絡(luò)威脅形勢的變化速度。它大大降低了全球網(wǎng)絡(luò)犯罪分子的進(jìn)入門檻，從廣泛使用的強(qiáng)大社交工程工具（如大型語言模型(LLM)和深度偽造）到人工智能驅(qū)動的監(jiān)控和數(shù)據(jù)分析。與此同時(shí)，企業(yè)越來越多地使用人工智能通過漏洞評估、補(bǔ)救和自動化安全任務(wù)來加強(qiáng)其網(wǎng)絡(luò)防御。
趨勢一：人工智能將推動新一波社會工程攻擊
LLM和深度偽造的出現(xiàn)將使社會工程變得更加有效。根據(jù)《2024年數(shù)據(jù)泄露調(diào)查報(bào)告》，68%的泄露事件涉及人為因素。這就是為什么網(wǎng)絡(luò)犯罪分子利用其武器庫中的新AI武器來欺騙和操縱員工以滲透網(wǎng)絡(luò)、竊取敏感信息并竊取資金。
例如，網(wǎng)絡(luò)犯罪分子正在使用LLM大量制作高度個(gè)性化且令人信服的網(wǎng)絡(luò)釣魚信息，受害者更有可能點(diǎn)擊這些信息。谷歌報(bào)告稱，公司應(yīng)該預(yù)料到LLM會被“用于網(wǎng)絡(luò)釣魚、短信和其他社會工程操作”。與此同時(shí)，微軟已經(jīng)觀察到全球主要網(wǎng)絡(luò)犯罪組織廣泛使用LLM。
網(wǎng)絡(luò)犯罪分子還利用深度偽造發(fā)起復(fù)雜的多層次網(wǎng)絡(luò)攻擊。例如，受害者收到網(wǎng)絡(luò)釣魚信息后，可能會打電話確認(rèn)，最終與深度偽造的對話者交談。
趨勢二：人工智能將迫使企業(yè)重新評估現(xiàn)有的網(wǎng)絡(luò)安全流程
雖然人工智能為企業(yè)提供了比以往更廣泛的網(wǎng)絡(luò)安全工具，但該技術(shù)的快速發(fā)展也引發(fā)了一場人工智能軍備競賽——隨著防御能力的提高，入侵方法也在不斷改進(jìn)。這意味著首席信息安全官和其他安全領(lǐng)導(dǎo)者將不得不重新評估幾種主要的網(wǎng)絡(luò)安全機(jī)制。
例如，深度偽造將使生物特征身份驗(yàn)證變得不那么有效，最新研究發(fā)現(xiàn)，到2026年，30%的企業(yè)將不再認(rèn)為這些“身份驗(yàn)證解決方案單獨(dú)來看是可靠的”。各家企業(yè)正在建立支持人工智能的“身份威脅檢測和響應(yīng)”工具，例如根據(jù)內(nèi)容、發(fā)件人憑證和電子郵件標(biāo)頭信息分析消息的網(wǎng)絡(luò)釣魚防御。但網(wǎng)絡(luò)犯罪分子也在借助LLM和其他人工智能工具開發(fā)變通方法，而網(wǎng)絡(luò)釣魚仍然是最常見且成本第二高的初始攻擊媒介。
預(yù)計(jì)到2025年，人工智能將要求企業(yè)在應(yīng)用和數(shù)據(jù)安全方面的支出至少增加15%。這與其他研究一致，例如普華永道最近的一份報(bào)告發(fā)現(xiàn)，79%的高管將在2024年增加網(wǎng)絡(luò)支出，高于2023年的64%。首席信息安全官和其他安全領(lǐng)導(dǎo)者必須確定如何盡可能有效地進(jìn)行這些投資。
趨勢三：人工智能將對供應(yīng)鏈網(wǎng)絡(luò)安全產(chǎn)生重大影響
供應(yīng)鏈泄露是最具破壞性的網(wǎng)絡(luò)攻擊之一。SolarWinds黑客攻擊是有史以來最大的入侵事件之一，該企業(yè)發(fā)現(xiàn)“最有可能的攻擊媒介是通過第三方應(yīng)用獲取憑證和/或訪問。”根據(jù)Verizon的最新數(shù)據(jù)，2023年至2024年間，涉及泄露的“供應(yīng)鏈互連”數(shù)量增加了68%。
預(yù)計(jì)到2025年，全球45%的組織將遭受針對其軟件供應(yīng)鏈的網(wǎng)絡(luò)攻擊，這一數(shù)字比2021年增加了三倍。供應(yīng)鏈網(wǎng)絡(luò)攻擊的新時(shí)代已經(jīng)到來。IBM報(bào)告稱，2023年27%的總違規(guī)行為可歸因于對軟件或業(yè)務(wù)合作伙伴供應(yīng)鏈的攻擊。
企業(yè)可以使用人工智能來運(yùn)行模擬，以反映潛在的供應(yīng)鏈攻擊，檢測欺詐和惡意網(wǎng)絡(luò)活動，并幫助企業(yè)在發(fā)生違規(guī)時(shí)縮短響應(yīng)時(shí)間。但人工智能也允許網(wǎng)絡(luò)犯罪分子探測供應(yīng)鏈中潛在的薄弱環(huán)節(jié)，并發(fā)起社會工程攻擊，讓他們立足于關(guān)鍵接入點(diǎn)。這些提醒我們，在整個(gè)供應(yīng)鏈中實(shí)施正確的安全協(xié)議至關(guān)重要，從人工智能識別和響應(yīng)系統(tǒng)到高質(zhì)量的網(wǎng)絡(luò)安全意識培訓(xùn)。
趨勢四：人工智能時(shí)代，全面的網(wǎng)絡(luò)安全至關(guān)重要
人工智能軍備競賽愈演愈烈，企業(yè)不能再等待最新的網(wǎng)絡(luò)安全技術(shù)發(fā)布。在社交工程仍然是大多數(shù)網(wǎng)絡(luò)攻擊的首選策略的時(shí)代，安全領(lǐng)導(dǎo)者必須確保在企業(yè)的各個(gè)層面培養(yǎng)網(wǎng)絡(luò)安全文化，并為員工提供保護(hù)組織所需的資源。
IBM表示，員工培訓(xùn)是數(shù)據(jù)泄露總體成本中最重要的緩解因素之一，其作用超過了保險(xiǎn)、加密、人工智能驅(qū)動的洞察力和其他資源。人工智能和網(wǎng)絡(luò)安全培訓(xùn)應(yīng)該相輔相成。預(yù)計(jì)到2028年，威脅檢測和事件響應(yīng)中的多智能體人工智能占人工智能實(shí)施的比例將從5%上升到70%，主要用于增強(qiáng)員工能力，而不是取代員工。
網(wǎng)絡(luò)安全意識培訓(xùn)必須不斷發(fā)展以滿足人工智能時(shí)代的需求。這不僅僅意味著培訓(xùn)員工識別復(fù)雜的LLM生成的網(wǎng)絡(luò)釣魚消息和深度偽造。它還意味著利用人工智能生成預(yù)測行為檔案，通過定制干預(yù)措施解決員工的特定弱點(diǎn)，并在員工不再信任自己的眼睛和耳朵的時(shí)代賦予員工阻止網(wǎng)絡(luò)攻擊的能力。企業(yè)必須優(yōu)先投資于人工智能增強(qiáng)員工隊(duì)伍，而不僅僅是任務(wù)自動化。為GenAI帶來的短期支出增加和長期技能需求變化做好準(zhǔn)備。
近90%的組織仍在研究或試用生成式人工智能，因此很難預(yù)測哪些技術(shù)和應(yīng)用會隨著炒作周期而消退，哪些技術(shù)和應(yīng)用會繼續(xù)存在。但企業(yè)可以通過制定全面的網(wǎng)絡(luò)安全戰(zhàn)略來應(yīng)對未來的任何情況，該戰(zhàn)略既能利用人工智能的力量，又能讓員工做好準(zhǔn)備，抵御這項(xiàng)革命性技術(shù)帶來的快速演變的威脅。
