本文來(lái)自人民郵電報(bào)，作者/蔡恩澤。
在近日舉行的伯克希爾·哈撒韋公司2024年度股東大會(huì)上，巴菲特表示，AI詐騙可能成為“有史以來(lái)最具增長(zhǎng)潛力的行業(yè)”。此前，巴菲特曾警告說(shuō)，AI有助于提高經(jīng)濟(jì)效率，但具有“巨大的破壞性”。
伯克希爾·哈撒韋公司股東大會(huì)被視為“投資界年度盛宴”，其釋放的信號(hào)被全球投資人奉為圭臬。一名投資者在大會(huì)的問(wèn)答環(huán)節(jié)向巴菲特提問(wèn)：如何看待生成式AI的潛力？巴菲特在表示自己對(duì)這項(xiàng)新技術(shù)了解不多之后，進(jìn)一步表示，有一天我們可能會(huì)后悔將精靈從瓶子里放出來(lái)，就像許多人后悔核武器的出現(xiàn)一樣。
據(jù)史冊(cè)所載，所羅門王是史上最富裕的君王，他有72個(gè)裝著魔鬼的小瓶子。巴菲特所說(shuō)的“瓶子”，顯然就是裝魔鬼的瓶子。他的意思是，不能把類似魔鬼的AI精靈從魔瓶中放出來(lái)。巴菲特講述了自己的親身經(jīng)歷：“我在屏幕上看到一個(gè)圖像，有著我的聲音，穿著我穿的那種衣服，就連我的妻子或女兒都不會(huì)察覺(jué)到任何區(qū)別，但它傳遞的信息絕不是我發(fā)出的。”他警告說(shuō)，AI詐騙可能成為“有史以來(lái)最具增長(zhǎng)潛力的行業(yè)”。
AI詐騙，以高度仿真性、隱蔽性、快速傳播性、智能化的方式挑戰(zhàn)著社會(huì)的安全與穩(wěn)定，通過(guò)語(yǔ)音合成、圖像偽造、社交工程學(xué)、自動(dòng)化詐騙，給人們帶來(lái)了巨大的經(jīng)濟(jì)損失和心理創(chuàng)傷，破壞人與人之間的信任關(guān)系，影響社會(huì)和諧穩(wěn)定，阻礙科技發(fā)展，可能會(huì)讓人們對(duì)人工智能技術(shù)產(chǎn)生恐懼和抵觸心理，阻礙其進(jìn)一步發(fā)展。
防范AI詐騙面臨多重挑戰(zhàn)。一是技術(shù)更新快，AI技術(shù)發(fā)展迅速，不法分子的詐騙手段也在不斷更新，防范難度加大，防不勝防。二是公眾防范意識(shí)不足，許多人對(duì)AI詐騙的認(rèn)識(shí)不夠深刻，缺乏有效的防范意識(shí)和技能。三是法律監(jiān)管滯后，目前針對(duì)AI詐騙的法律法規(guī)還不夠完善，對(duì)不法分子的懲處力度不夠，致使違法成本低下。
值得關(guān)注的是，AI詐騙正成為一種行業(yè)，甚至開(kāi)始通過(guò)商業(yè)化、產(chǎn)業(yè)化運(yùn)作牟利。有人把AI拖入歧途，令人痛心又震驚。
目前不僅需要對(duì)AI加強(qiáng)監(jiān)管，加大對(duì)違法行為的打擊力度，更要從源頭上提升人們對(duì)科技風(fēng)險(xiǎn)的認(rèn)知。防范AI詐騙，科技倫理極其重要，我們?cè)谕苿?dòng)科技進(jìn)步的同時(shí)，要不斷提升防范技術(shù)和手段，確保其不被用于違法犯罪活動(dòng)。
當(dāng)AI詐騙成為行業(yè)常態(tài)，我們不得不反思科技與社會(huì)的關(guān)系，以及如何更好地引導(dǎo)科技為人類服務(wù)，而非成為犯罪的工具。有鑒于此，我們要針對(duì)AI詐騙的行業(yè)“增長(zhǎng)潛力”，研究應(yīng)對(duì)AI詐騙的策略。
首先，要加強(qiáng)技術(shù)研發(fā)。投入更多資源進(jìn)行反詐騙技術(shù)的研發(fā)，提高識(shí)別和防范AI詐騙的技術(shù)能力，給AI技術(shù)添加“牛欄”，勿使其溜到“菜園”中踐踏青苗。
其次，要加強(qiáng)公眾教育。通過(guò)多種渠道向公眾普及防范AI詐騙的知識(shí)和技巧，增強(qiáng)公眾的防范意識(shí)。比如，AI再“逼真”也會(huì)露餡，畢竟AI無(wú)法模仿人類的感情，可從情感交流中識(shí)破其騙術(shù)。同時(shí)，要推動(dòng)全社會(huì)共同參與、共同努力，遏制AI詐騙蔓延，保護(hù)人民群眾生命財(cái)產(chǎn)安全，確保社會(huì)和諧穩(wěn)定。
再次，要加大監(jiān)管力度。通過(guò)完善相關(guān)法律法規(guī)，加大對(duì)AI詐騙的震懾、打擊力度，提高不法分子的違法成本，讓其傾家蕩產(chǎn)。
最后，要加強(qiáng)國(guó)際合作。AI詐騙往往具有跨國(guó)性特征，需要加強(qiáng)國(guó)際合作與交流，共同應(yīng)對(duì)這一挑戰(zhàn)。如中美之間已就AI達(dá)成共識(shí)，雙方宣布將舉行中美“人工智能政府間對(duì)話”首次會(huì)議，進(jìn)一步推進(jìn)中美人工智能合作。
未來(lái)，隨著人工智能技術(shù)的不斷發(fā)展，我們要與時(shí)俱進(jìn)，不斷更新防范策略。我們也期待科技的進(jìn)步能夠?yàn)槲覀兲峁└喔玫慕鉀Q方案，讓我們能夠更加安全地享受科技帶來(lái)的便利。
