本文來自千家網(wǎng)。
一項新調(diào)查揭示了企業(yè)面臨的五大新興風(fēng)險，對人工智能（AI）增強型惡意攻擊的擔(dān)憂在2024年第一季度的新興風(fēng)險排名中位居榜首。
人工智能輔助工具引發(fā)惡意行為的前景令全球風(fēng)險領(lǐng)導(dǎo)者感到擔(dān)憂。語音和圖像生成等人工智能輔助工具相對易于使用且質(zhì)量高，增強了實施惡意攻擊的能力，并帶來廣泛后果。
今年第一季度，Gartner對345名高級企業(yè)風(fēng)險主管進行了調(diào)查，以捕捉和評估他們面臨的20大新興風(fēng)險，并讓領(lǐng)導(dǎo)者了解這些風(fēng)險的原因和潛在后果。
在2024年第一季度的調(diào)查中，與人工智能相關(guān)的風(fēng)險占據(jù)了前兩位，其中人工智能增強型惡意攻擊被列為最大的新興風(fēng)險，人工智能輔助的虛假信息也引起了人們的擔(dān)憂。
人工智能攻擊和錯誤信息的原因
人工智能攻擊和虛假信息的主要驅(qū)動因素之一是其能力的快速擴展。人工智能增強可以提供惡意代碼，并促進網(wǎng)絡(luò)釣魚和社會工程，從而實現(xiàn)更精準(zhǔn)的入侵、更高的可信度和更具破壞性的攻擊。
低成本和快速增長也讓用戶接觸到了這項技術(shù)，而他們卻不太清楚如何識別人工智能工具提供的信息是有效信息，還是虛假或歪曲的信息。
需要緩解的潛在后果
人工智能增強型攻擊和錯誤信息的潛在影響是深遠(yuǎn)的，會對聲譽、生產(chǎn)力和組織的響應(yīng)能力產(chǎn)生重大影響。違規(guī)行為和披露要求的增加可能會削弱客戶、消費者和合作伙伴對組織和品牌的信任。
人工智能增強型攻擊和錯誤信息的速度和質(zhì)量，也阻礙了信息安全團隊?wèi)?yīng)對和適應(yīng)新安全形勢的能力，進一步放大了其漏洞。
以下是AI攻擊成為企業(yè)面臨的新主要風(fēng)險的一些關(guān)鍵原因：
自動化攻擊手段：
AI技術(shù)可以用于自動化網(wǎng)絡(luò)攻擊，例如自動化的釣魚攻擊（phishing）和分布式拒絕服務(wù)攻擊（DDoS）。這些攻擊可以以更高效、更大規(guī)模進行，難以被傳統(tǒng)防御手段快速檢測和阻止。
智能化惡意軟件：
AI驅(qū)動的惡意軟件能夠?qū)W習(xí)并適應(yīng)防御系統(tǒng)，變得更加隱蔽和難以檢測。例如，AI可以幫助惡意軟件不斷修改自身代碼以避免被防病毒軟件發(fā)現(xiàn)。
社會工程攻擊：
AI技術(shù)可以通過分析社交媒體和其他公開數(shù)據(jù)，生成更為逼真的社會工程攻擊。例如，使用AI生成的語音或視頻，可以模仿企業(yè)高層，實施詐騙行為（如CEO欺詐）。
數(shù)據(jù)泄露和隱私風(fēng)險：
AI技術(shù)能夠更快地處理和分析大量數(shù)據(jù)，這使得一旦數(shù)據(jù)被不法分子獲取，他們可以更快速地識別并利用敏感信息，導(dǎo)致更嚴(yán)重的數(shù)據(jù)泄露和隱私侵害。
對抗性攻擊：
AI模型本身也成為攻擊目標(biāo)。攻擊者可以通過對抗性樣本（adversarialexamples）來欺騙AI系統(tǒng)，使其做出錯誤判斷。這在自動駕駛、金融交易等高風(fēng)險應(yīng)用中尤其危險。
深度偽造技術(shù)：
深度偽造（Deepfake）技術(shù)可以生成高度逼真的假視頻和音頻，這不僅威脅到個人隱私和聲譽，也可能被用來傳播虛假信息，影響公共輿論和企業(yè)聲譽。
供應(yīng)鏈攻擊：
AI可以用于識別并攻擊企業(yè)供應(yīng)鏈中的薄弱環(huán)節(jié)，導(dǎo)致整個供應(yīng)鏈的安全風(fēng)險增加。例如，攻擊者可以通過AI分析找到最易受攻擊的供應(yīng)商進行入侵，然后通過供應(yīng)商網(wǎng)絡(luò)進入目標(biāo)企業(yè)系統(tǒng)。
企業(yè)應(yīng)當(dāng)采取多種措施來應(yīng)對AI帶來的安全威脅，包括：
加強網(wǎng)絡(luò)安全防護：采用先進的安全技術(shù)和策略，如零信任架構(gòu)、多因素認(rèn)證和持續(xù)監(jiān)控。
員工培訓(xùn)和意識提升：提高員工對AI相關(guān)安全威脅的認(rèn)知，培養(yǎng)其防范社會工程攻擊的能力。
引入AI安全技術(shù)：利用AI技術(shù)增強安全防護，例如威脅檢測和響應(yīng)系統(tǒng)、異常行為分析等。
制定應(yīng)急響應(yīng)計劃：確保企業(yè)具備快速應(yīng)對和恢復(fù)的能力，以減少潛在攻擊的影響。
通過這些措施，企業(yè)可以更好地應(yīng)對AI技術(shù)帶來的新型安全挑戰(zhàn)，保護自身免受攻擊。
