本文來(lái)自微信公眾號(hào)“信息安全國(guó)家工程研究中心”，作者/NERCIS。
社會(huì)工程是一種成熟的網(wǎng)絡(luò)攻擊形式，由于人工智能的進(jìn)步，惡意組織如虎添翼，我們未來(lái)可能會(huì)面臨更復(fù)雜的社會(huì)工程攻擊。
大語(yǔ)言模型（LLM）
大語(yǔ)言模型（LLM）是指使用大量文本數(shù)據(jù)訓(xùn)練的深度學(xué)習(xí)模型，可以生成自然語(yǔ)言文本或理解語(yǔ)言文本的含義。像ChatGPT這樣的大型語(yǔ)言模型有數(shù)百萬(wàn)甚至數(shù)十億個(gè)參數(shù)，允許它們以連貫且上下文相關(guān)的方式理解和生成文本。
ChatGPT已成為惡意攻擊者武器庫(kù)中的強(qiáng)大工具。措辭不佳、錯(cuò)誤百出的電子郵件使我們的垃圾郵件箱混亂的日子可能很快就會(huì)一去不復(fù)返了。精心設(shè)計(jì)的釣魚郵件成功率往往會(huì)更高，此類電子郵件的收件人通常包括財(cái)務(wù)負(fù)責(zé)人或是在組織里與交易支付等環(huán)節(jié)有關(guān)系的其他人員。現(xiàn)在可以通過(guò)使用LLM增強(qiáng)和優(yōu)化文本，使釣魚郵件看起來(lái)更有說(shuō)服力。值得注意的是，LLM可使惡意攻擊者的釣魚郵件更好地匹配目標(biāo)受眾的語(yǔ)言和上下文。
據(jù)國(guó)外網(wǎng)站pcgamer的報(bào)道，WormGPT是暗網(wǎng)上可用的大語(yǔ)言模型（LLM），由一位膽大的黑客設(shè)計(jì)，不關(guān)心道德的局限性，可以被要求完成各種邪惡的任務(wù)，包括惡意軟件創(chuàng)建和“與黑帽有關(guān)的一切”。相比于ChatGPT，WormGPT不用像OpenAI或谷歌這樣的大型公司那樣，必須要承擔(dān)相關(guān)的法律義務(wù)。這意味著惡意行為者不必?fù)?dān)心他們的帳戶被阻止——他們可以使用它制作任何類型的內(nèi)容。
深度偽造技術(shù)（Deepfake）
深度偽造技術(shù)（Deepfake）使用AI和深度學(xué)習(xí)技術(shù)來(lái)創(chuàng)建高度逼真的虛假內(nèi)容，通常使用生成對(duì)抗網(wǎng)絡(luò)（GAN）的機(jī)器學(xué)習(xí)算法，將現(xiàn)有視頻中個(gè)人的面孔替換為其他人的面孔。這些先進(jìn)的算法通過(guò)分析和學(xué)習(xí)大量數(shù)據(jù)，生成高逼真度的視覺(jué)和音頻內(nèi)容，這些內(nèi)容可以欺騙觀看者相信這些的視頻是真實(shí)的。這可能采取合法使用的形式，如在社交媒體過(guò)濾器上換臉，或采取更邪惡的形式，如捏造政治演講或使用人們的真實(shí)姓名進(jìn)行欺詐。
增強(qiáng)深度偽造視頻逼真度的難點(diǎn)在于準(zhǔn)確復(fù)制頭發(fā)和面部特征。當(dāng)deepfake的畫布具有明顯不同的發(fā)際線或面部結(jié)構(gòu)時(shí)，生成的結(jié)果就看起來(lái)就不那么令人信服了。然而，惡意攻擊者發(fā)現(xiàn)有很多演員愿意讓人錄制他們的視頻并改變他們的外表。此外，也不乏確信自己的身份永遠(yuǎn)不會(huì)暴露的人愿意被錄制。
目前對(duì)深度偽造技術(shù)的使用甚至比創(chuàng)建它們的工具的可用性更令人擔(dān)憂。令人震驚的是，大約90%的深度偽造技術(shù)被用于未經(jīng)同意的色情內(nèi)容，尤其是用于復(fù)仇目的。使問(wèn)題更加復(fù)雜的是，歐洲缺乏保護(hù)受害者的具體法律。
一種有力的勒索手段
試想一下，如果有人獲取到偽造的隱藏?cái)z像頭錄像，并利用人工智能將參與者的臉替換為受害者的臉。雖然錄像是偽造的，但很難向他人解釋清楚情況，這種情形下很容易向勒索者妥協(xié)。人工智能的引入為包括犯罪活動(dòng)在內(nèi)的各個(gè)領(lǐng)域帶來(lái)了新的實(shí)踐路徑，我們可能會(huì)發(fā)現(xiàn)自己步入了一個(gè)各類新型惡意行為者越來(lái)越多的時(shí)期。
關(guān)鍵問(wèn)題仍然存在：惡意行為者將在多大程度上突破界限？我們不能忽視這樣一個(gè)事實(shí)，即網(wǎng)絡(luò)犯罪是一個(gè)高利潤(rùn)的行業(yè)，涉及數(shù)十億美元。某些犯罪組織的運(yùn)作方式與合法公司類似，擁有自己的雇員和資源基礎(chǔ)設(shè)施。他們深入研究開發(fā)自己的deepfake生成器只是時(shí)間問(wèn)題（如果他們還沒(méi)有這樣做的話）。以他們雄厚的財(cái)力，這不是是否可行的問(wèn)題，而是是否值得的問(wèn)題。在這種情況下，答案可能是肯定的。
目前有哪些可以預(yù)防措施？各種掃描工具已經(jīng)出現(xiàn)，聲稱它們能夠檢測(cè)深度偽造，例如Microsoft的視頻身份驗(yàn)證器工具等。此外，英特爾聲稱其FakeCatcher scanner在深度偽造檢測(cè)方面具有96%的準(zhǔn)確率。
語(yǔ)音偽造同樣可對(duì)組織構(gòu)成重大威脅
語(yǔ)音偽造（Voice fakes）是人工生成或操縱的錄音，旨在模仿或冒充某人的聲音。與深度偽造視頻一樣，語(yǔ)音偽造也是使用先進(jìn)的機(jī)器學(xué)習(xí)技術(shù)生成的，尤其是語(yǔ)音合成和語(yǔ)音轉(zhuǎn)換算法，模仿特定個(gè)人的語(yǔ)音模式、語(yǔ)氣和細(xì)微差別，生成高相似度的音頻。
只需幾秒鐘的音頻就能制作出偽造的音頻。但要想有效地欺騙熟人，則需要更長(zhǎng)的錄音。如果目標(biāo)人物在網(wǎng)上很有影響力，那么獲取這些錄音就變得更加簡(jiǎn)單。
另外，高明的社交工程師可以巧妙地與目標(biāo)進(jìn)行超過(guò)一分鐘的對(duì)話，從而相對(duì)輕松地獲取語(yǔ)音樣本。目前，語(yǔ)音偽造比深度偽造具有更高的逼真度，對(duì)目標(biāo)說(shuō)話模式的研究只會(huì)提高攻擊成功的概率。此類攻擊的成功與否取決于惡意行為者愿意投入多少精力，這些類型的社會(huì)工程學(xué)攻擊在惡意組織內(nèi)部獲得了很高的關(guān)注和資源分配。
鑒于語(yǔ)音偽造所帶來(lái)的威脅，在進(jìn)行交易或共享敏感信息的敏感電話中實(shí)施雙因素身份驗(yàn)證顯然至關(guān)重要。我們正在進(jìn)入一個(gè)數(shù)字通信時(shí)代，任何形式的通信的真實(shí)性都可能受到質(zhì)疑。
隨著人工智能日益融入日常生活，它自然也與網(wǎng)絡(luò)安全領(lǐng)域交織在一起。雖然語(yǔ)音偽造和深度偽造掃描儀的出現(xiàn)令人充滿希望，但必須徹底測(cè)試其準(zhǔn)確性?？梢灶A(yù)期，滲透測(cè)試工作將越來(lái)越關(guān)注人工智能，從而導(dǎo)致一些安全評(píng)估的轉(zhuǎn)變。
未來(lái)，評(píng)估知名人士的線上信息以及制造高度逼真的深度偽造內(nèi)容的難易程度，可能很快就會(huì)成為網(wǎng)絡(luò)安全團(tuán)隊(duì)工作不可或缺的一部分，甚至可能會(huì)出現(xiàn)專門用于打擊社交工程攻擊的事件預(yù)防和響應(yīng)團(tuán)隊(duì)。
目前，如果有人成為深度偽造勒索的受害者，他們能向哪里求助呢？他們肯定不會(huì)找自己的雇主說(shuō)："可能有敏感視頻在流傳，不過(guò)不用擔(dān)心，這只是一個(gè)深度偽造的視頻"。但是，如果有一支能夠以保密的方式解決這一問(wèn)題，并減輕此類攻擊對(duì)個(gè)人影響的團(tuán)隊(duì)，那么這將成為公司需要考慮的一項(xiàng)重要服務(wù)。
雖然新的人工智能驅(qū)動(dòng)世界對(duì)網(wǎng)絡(luò)安全格局的變革力量是顯而易見的，但這些變化是好是壞仍然不確定。
