本文來(lái)自微信公眾號(hào)“計(jì)算機(jī)世界”。
作為CIO和技術(shù)領(lǐng)導(dǎo)者，我們幾乎總是扮演著技術(shù)布道者的角色，將主流技術(shù)和新興技術(shù)引入企業(yè)，為企業(yè)帶來(lái)效益。
在與同行的合作中，我們擁有扎實(shí)的商業(yè)意識(shí)，能夠仔細(xì)權(quán)衡創(chuàng)新和風(fēng)險(xiǎn)，以獲得有價(jià)值的投資回報(bào)率，同時(shí)保護(hù)組織免受與每個(gè)項(xiàng)目相關(guān)的各種形式的風(fēng)險(xiǎn)。
多年來(lái)，我們一直秉承這一理念，但由于技術(shù)的采用率、規(guī)模和影響越來(lái)越大，我們需要加強(qiáng)風(fēng)險(xiǎn)管理思維，包括研發(fā)和創(chuàng)新相關(guān)項(xiàng)目。這并不是要我們成為“盧德分子”或“技術(shù)拒絕者”，而是要我們警醒自己，加強(qiáng)風(fēng)險(xiǎn)管理思維，尤其是與變革性技術(shù)相關(guān)的風(fēng)險(xiǎn)管理思維，并在開(kāi)綠燈之前提出更難回答的問(wèn)題。
今天有什么新的不同？
技術(shù)總是被用于產(chǎn)生積極或消極的影響。今天的不同之處在于，我們看到了越來(lái)越大膽的雄心壯志，同時(shí)也看到了技術(shù)的快速應(yīng)用和廣泛影響?，F(xiàn)在，技術(shù)應(yīng)用曲線在幾個(gè)月甚至幾天內(nèi)就能達(dá)到數(shù)億人——ChatGPT在兩個(gè)月內(nèi)就獲得了超過(guò)1億的月活躍用戶，而Threads在短短五天內(nèi)就達(dá)到了1億用戶?，F(xiàn)在，在人們完全了解技術(shù)之前，它就能在創(chuàng)紀(jì)錄的時(shí)間內(nèi)覆蓋全球受眾。
人工智能才剛剛起步，現(xiàn)在我們需要提出一些尖銳的問(wèn)題。Thinkers360 2023年人工智能信任指數(shù)（Thinkers360 AI Trust Index 2023）衡量了人工智能終端用戶和人工智能供應(yīng)商的年度情緒，發(fā)現(xiàn)超過(guò)75%的受訪者對(duì)當(dāng)今人工智能的信任程度表示“有點(diǎn)擔(dān)心”或“非常擔(dān)心”。歸根結(jié)底，這是一個(gè)我們信任哪些組織來(lái)推動(dòng)技術(shù)發(fā)展、我們信任他們代表我們做什么以及我們?nèi)绾我?guī)范其使用以盡可能快速、安全地進(jìn)行創(chuàng)新的問(wèn)題。
當(dāng)然，這些考慮因素中有許多具有國(guó)家和全球影響，但當(dāng)創(chuàng)新開(kāi)始影響你的組織時(shí)，你也要對(duì)利益相關(guān)者和最終用戶負(fù)責(zé)。以下四個(gè)步驟可以幫助你進(jìn)行規(guī)劃，以及如何開(kāi)始或繼續(xù)提出有關(guān)技術(shù)的棘手問(wèn)題。
01｜
從核心價(jià)值觀入手
組織的核心價(jià)值觀闡明了組織對(duì)自身和所有員工的行為要求。這些價(jià)值觀也可以指導(dǎo)我們不要做什么。谷歌的“不作惡”變成了Alphabet的“做正確的事”，當(dāng)其他一些組織不那么嚴(yán)謹(jǐn)時(shí)，谷歌的“不作惡”就是為了指導(dǎo)組織。
這是一個(gè)起點(diǎn)，但我們還需要審視未來(lái)提出的每項(xiàng)行動(dòng)和倡議，無(wú)論是內(nèi)部的還是現(xiàn)成的，以探索每一個(gè)良好的愿望可能導(dǎo)致的結(jié)果。常見(jiàn)的建議是，先從小規(guī)模、低復(fù)雜性、低風(fēng)險(xiǎn)的項(xiàng)目做起，積累經(jīng)驗(yàn)后再開(kāi)展規(guī)模更大、影響更廣的行動(dòng)。你還可以借鑒亞馬遜的技巧，詢問(wèn)決策或行動(dòng)是否可逆。如果是可逆的，那么風(fēng)險(xiǎn)顯然更小。
02｜
探究變革性技術(shù)
這意味著要超越與項(xiàng)目相關(guān)的典型業(yè)務(wù)和技術(shù)問(wèn)題，必要時(shí)還要詢問(wèn)法律和道德問(wèn)題。雖然創(chuàng)新常常會(huì)因?yàn)閮?nèi)部政治因素（例如，NIH綜合癥（Not Invented Here Syndrome指社會(huì)、公司和組織中的一種文化現(xiàn)象。人們不愿意使用、購(gòu)買或接受某種產(chǎn)品、研究結(jié)果或者只是，不是出于技術(shù)或者法律因素，而只是因?yàn)樗鼇?lái)自某個(gè)地方。簡(jiǎn)言之“非我所創(chuàng)，便毫無(wú)價(jià)值”）而遭到非建設(shè)性的質(zhì)疑。建設(shè)性的質(zhì)疑則是提出一些探究性的問(wèn)題，如錯(cuò)誤會(huì)產(chǎn)生什么影響？人工智能決策會(huì)不會(huì)只是簡(jiǎn)單的錯(cuò)誤，或者會(huì)不會(huì)變成災(zāi)難性的錯(cuò)誤？什么程度的仔細(xì)試點(diǎn)或?qū)嶋H測(cè)試可以幫助解決未知問(wèn)題并降低風(fēng)險(xiǎn)水平？在網(wǎng)絡(luò)安全、社會(huì)和機(jī)遇方面，可接受的風(fēng)險(xiǎn)水平是多少？
生命未來(lái)研究所（Future of Life Institute）等非營(yíng)利組織的工作著眼于人工智能和生物技術(shù)等變革性技術(shù)，目標(biāo)是引導(dǎo)其造福生命，遠(yuǎn)離極端的大規(guī)模風(fēng)險(xiǎn)。這些組織和其他組織可以成為提高對(duì)當(dāng)前風(fēng)險(xiǎn)認(rèn)識(shí)的寶貴資源。
03｜
在組織層面建立警戒線
雖然防護(hù)措施可能不適用于全球人工智能軍事軍備競(jìng)賽，但在特定的使用案例和行業(yè)中，它們可以在更細(xì)化的層面上發(fā)揮作用。以負(fù)責(zé)任的采購(gòu)實(shí)踐、指導(dǎo)方針、有針對(duì)性的建議和監(jiān)管舉措為形式的防護(hù)措施非常普遍，而且已經(jīng)有了很多。立法機(jī)構(gòu)也在加緊行動(dòng)，最近的歐盟人工智能法案針對(duì)不同的風(fēng)險(xiǎn)等級(jí)提出了不同的規(guī)則，目的是在今年年底前達(dá)成協(xié)議。
在組織層面，一個(gè)簡(jiǎn)單的防護(hù)措施就是制定自己的企業(yè)使用政策，并酌情簽署各種行業(yè)協(xié)議。對(duì)于人工智能和其他領(lǐng)域，企業(yè)使用政策可以幫助用戶了解潛在的風(fēng)險(xiǎn)領(lǐng)域，從而管理風(fēng)險(xiǎn)，同時(shí)還能鼓勵(lì)創(chuàng)新。
04｜
不斷改進(jìn)風(fēng)險(xiǎn)治理
隨著技術(shù)的飛速發(fā)展，持續(xù)監(jiān)控創(chuàng)新和風(fēng)險(xiǎn)兩方面的發(fā)展并做出相應(yīng)調(diào)整非常重要。這意味著要根據(jù)需要進(jìn)行調(diào)整，甚至在出現(xiàn)重大風(fēng)險(xiǎn)或問(wèn)題時(shí)終止項(xiàng)目。例如，谷歌在消費(fèi)者市場(chǎng)推出谷歌眼鏡產(chǎn)品僅八個(gè)月后，就因各種日益加劇的隱私問(wèn)題而撤出。不過(guò)，十多年后，該產(chǎn)品在更有針對(duì)性的企業(yè)應(yīng)用場(chǎng)景中獲得了青睞。
當(dāng)我們?cè)诮M織內(nèi)部擁抱人工智能等變革性技術(shù)時(shí)，必須在創(chuàng)新風(fēng)險(xiǎn)等式的安全和風(fēng)險(xiǎn)治理方面花費(fèi)更多的時(shí)間和精力，以平衡技術(shù)不斷增長(zhǎng)的力量。
用Future of Life Institute的話來(lái)說(shuō)，“只有當(dāng)我們能夠在技術(shù)不斷增長(zhǎng)的力量與我們?cè)O(shè)計(jì)和管理技術(shù)的智慧之間的競(jìng)賽中獲勝時(shí)，文明才能繁榮昌盛。對(duì)于人工智能，贏得這場(chǎng)競(jìng)賽的最佳方式不是阻礙前者，而是通過(guò)支持人工智能安全研究和風(fēng)險(xiǎn)治理來(lái)加速后者。”
有時(shí)候，你必須放慢腳步，才能走得更快。
