本文來自微信公眾號“天翼智庫”，作者/馬戰(zhàn)凱、常佳琦。
人工智能代表先進(jìn)生產(chǎn)力方向，是打造新質(zhì)生產(chǎn)力的核心技術(shù)。人工智能在促進(jìn)生產(chǎn)力發(fā)展、提升全新生活體驗(yàn)的同時(shí)，也有可能帶來一些風(fēng)險(xiǎn)。比如最近利用AI針對個(gè)人或企業(yè)的換臉詐騙，等等。
人工智能會被如何惡意使用？
人工智能降低了虛假信息生成的技術(shù)門檻，增加了公眾識別信息真?zhèn)蔚碾y度。當(dāng)前AI技術(shù)發(fā)展迅速，通過深度學(xué)習(xí)進(jìn)行特征分析提取，AI已經(jīng)可以做到對各種內(nèi)容（尤其是視頻、短視頻）進(jìn)行修改、變更和替換，達(dá)到非常逼真的程度，以假亂真，同時(shí)這些技術(shù)正逐步大眾化，普通人使用手機(jī)就可以操作制作新的內(nèi)容。降低了虛假信息生成的門檻，導(dǎo)致公眾識別信息真?zhèn)蔚碾y度大幅提高。
一方面，人工智能可以應(yīng)用于視覺、語音、文本偽造領(lǐng)域，或?yàn)樘摷傩畔鞑ヌ峁┧夭?。不法分子或?qū)⒗脨阂馊斯ぶ悄芰奶鞕C(jī)器人、AI換臉、AI擬聲、虛擬場景構(gòu)建等工具，生成大量具有高迷惑性的內(nèi)容。例如，部分不法商家在未經(jīng)明星同意、未取得明星授權(quán)的前提下擅自利用AI換“明星臉”直播帶貨，通過迷惑消費(fèi)者從而實(shí)現(xiàn)盈利。
另一方面，惡意團(tuán)體和不法分子或?qū)⒔柚斯ぶ悄芗夹g(shù)實(shí)現(xiàn)對公眾心理的精準(zhǔn)操縱。人工智能可能會被惡意應(yīng)用于熱點(diǎn)內(nèi)容篡改、敘事操縱等領(lǐng)域，可能通過誤導(dǎo)性內(nèi)容，阻礙多元化觀點(diǎn)的交流。此外，有研究顯示，自然語言生成模型在敘事重述、操縱、引導(dǎo)等方面都有良好的表現(xiàn)。不法分子往往會結(jié)合社會熱點(diǎn)和輿論焦點(diǎn)，利用人工智能技術(shù)制造并傳播含有真實(shí)與虛假元素混合的信息，使惡意言論最大程度地影響受眾，造成“情緒傳染”，將極大地挑戰(zhàn)公眾的判斷力，達(dá)到操縱輿論、甚至危害國家安全的目的。
此外，AI技術(shù)使得不法分子的偽造成本下降，助長了深度偽造信息的產(chǎn)生，進(jìn)一步提高了虛假信息泛濫的風(fēng)險(xiǎn)。例如，克隆聲音的成本從2021年底的10000美元下降到如今的幾美元（2023年的數(shù)據(jù)）。此外，有數(shù)據(jù)顯示，2022年，深度偽造的視頻數(shù)量是2021年的3倍，語音偽造的數(shù)量是2021年的8倍。
如何應(yīng)對人工智能被惡意利用？
應(yīng)對大模型面臨的幻覺、輿情真?zhèn)魏投噍嗊壿嬐评淼确矫娴奶魬?zhàn)，國內(nèi)外普遍從數(shù)據(jù)溯源、優(yōu)化模型、技術(shù)偵測等三方面進(jìn)行探索和實(shí)踐。
首先，在數(shù)據(jù)溯源方面，把好數(shù)據(jù)溯源關(guān)，保證原始信息的真實(shí)準(zhǔn)確。通過關(guān)鍵信息注意力增強(qiáng)技術(shù)、知識圖譜強(qiáng)化、多輪知識記憶和強(qiáng)化技術(shù)、知識溯源能力等四項(xiàng)關(guān)鍵技術(shù)降低幻覺。從根本上，保證真實(shí)信息的生成。
其次，優(yōu)化模型，增加模型參數(shù)量，將模型參數(shù)增加到千億級別，實(shí)現(xiàn)對內(nèi)容更好地理解。從傳播上，減少信息的理解偏差。
第三，在技術(shù)偵測上，分析文本、聲音和圖像特征，明確幻覺相關(guān)的特征或模式。從甄別糾錯(cuò)上，降低信息的錯(cuò)誤傳播。比如：多維分析信息的頻率、響度、顏色、形狀、元數(shù)據(jù)與內(nèi)容的一致性，包括拍攝日期、時(shí)間、地點(diǎn)、攝影設(shè)備信息等，通過設(shè)置語音實(shí)時(shí)自定義敏感詞檢測、反向圖像搜索、視頻來源驗(yàn)證等模式算法識別手段甄別信息的來源渠道和可靠性。
企業(yè)實(shí)踐：中國電信聯(lián)合北京大學(xué)，使得引證準(zhǔn)確率提升到近80%。
由電信研發(fā)人員聯(lián)合北大團(tuán)隊(duì)駐場開發(fā)，覆蓋新聞、應(yīng)急預(yù)案生成、公安審訊筆錄生成三大場景，新聞大模型解決重大會議報(bào)道的需求，實(shí)現(xiàn)低幻覺引證準(zhǔn)確的高可信新聞文稿；應(yīng)急生成大模型支持省市縣三級總體預(yù)案生成；公安筆錄生成大模型實(shí)現(xiàn)口語筆錄格式化、信息抽取等功能?；谥袊娦叛芯吭旱?ldquo;妙生大模型”幻覺消除核心技術(shù)能力，重點(diǎn)攻關(guān)文本內(nèi)容結(jié)構(gòu)化、引證主題生成、引證關(guān)聯(lián)等核心技術(shù)，引證準(zhǔn)確率由69%提升到79%。
人工智能如何能規(guī)范化發(fā)展？
人工智能的規(guī)范化發(fā)展需要從技術(shù)創(chuàng)新、治理體系、安全防護(hù)三方面著手，營造創(chuàng)新生態(tài)，實(shí)現(xiàn)健康有序發(fā)展。
一是加強(qiáng)人工智能技術(shù)自主創(chuàng)新。夯實(shí)算法、數(shù)據(jù)、算力等人工智能技術(shù)底座，突破人工智能在基礎(chǔ)算法、開發(fā)工具、芯片等領(lǐng)域的瓶頸，建立涵蓋理論方法和軟硬件技術(shù)的體系化自主研發(fā)能力。
二是完善人工智能治理體系。在法律法規(guī)層面，目前國家針對AI，包括人臉識別、語音識別技術(shù)已經(jīng)有一些規(guī)范，但同時(shí)應(yīng)與時(shí)俱進(jìn)、不斷完善。去年12月歐盟的《人工智能法案》為我們提供了一些借鑒意義。通過分級監(jiān)管，在推動技術(shù)創(chuàng)新和發(fā)展之間找到平衡。從標(biāo)準(zhǔn)方面看，應(yīng)系統(tǒng)制定和完善與人工智能發(fā)展相關(guān)的國家和行業(yè)標(biāo)準(zhǔn)，引導(dǎo)人工智能健康發(fā)展和規(guī)范應(yīng)用。在監(jiān)管方式上，進(jìn)一步完善安全評估、算法備案、標(biāo)識等科學(xué)監(jiān)管方式，制定相應(yīng)的分類分級監(jiān)管規(guī)則或者指引，堅(jiān)決打擊威脅人工智能安全和濫用人工智能技術(shù)等違法行為。
三是構(gòu)建人工智能安全防護(hù)體系。我國企業(yè)要加快構(gòu)建涵蓋數(shù)據(jù)層、算法層、設(shè)施層和應(yīng)用層的人工智能安全縱深防護(hù)體系，提升應(yīng)對深度偽造、算法安全、數(shù)據(jù)隱私和技術(shù)濫用等能力，為應(yīng)對風(fēng)險(xiǎn)提供全方位安全保障能力。
