本文來自中國電子信息產(chǎn)業(yè)發(fā)展研究院，作者/賽迪譯叢。
2021年11月，世界經(jīng)濟論壇發(fā)布了《人工智能治理之旅：發(fā)展與機遇》。為此報告提出若干政策建議，呼吁多利益攸關(guān)方采取“靈活治理”的方式，共同參與人工智能治理。賽迪智庫政策法規(guī)研究所對該報告進行了編譯，期望對我國有關(guān)部門有所幫助。
報告指出，人工智能技術(shù)取得飛速發(fā)展，但相關(guān)的治理能力和框架卻沒有及時跟進。近幾年，各方對治理人工智能提出了很多倫理道德原則，但如何在不扼殺創(chuàng)新的前提下管控風(fēng)險并推動人工智能治理由原則向?qū)嵺`轉(zhuǎn)化才是最關(guān)鍵的。
一、背景
在過去五年，人工智能治理取得了迅猛發(fā)展，構(gòu)建人工智能監(jiān)管生態(tài)系統(tǒng)的速度大大提高，但如何以負責(zé)任的方式推動人工智能的應(yīng)用和實踐依舊是當(dāng)前面臨的迫切挑戰(zhàn)。人工智能有獨特的風(fēng)險，簡單照抄現(xiàn)有政策工具并不能處理好這些問題，社會必須考慮在應(yīng)用人工智能時完善相關(guān)手段和措施，以此來化解先進決策系統(tǒng)帶來的潛在風(fēng)險。
二、人工智能發(fā)展歷程回顧
歷次工業(yè)革命既創(chuàng)造機遇，也帶來挑戰(zhàn)，迫使社會重新審視當(dāng)時的治理結(jié)構(gòu)能否有效維持監(jiān)管與創(chuàng)新之間的平衡。人工智能是推動第四次工業(yè)革命的引擎，圍繞人工智能及其安全防護措施將會出現(xiàn)諸多挑戰(zhàn)。對其歷史發(fā)展進程進行總結(jié)回顧十分重要，只有通過回顧過去，才能把握未來的發(fā)展方向。
（一）2010年以前：人工智能的冬天與解凍
早在人工智能發(fā)展初期，大家都認為人工智能發(fā)展到可以承擔(dān)權(quán)責(zé)的程度時，就有必要認真考慮治理方面的問題。即使是處于歷史學(xué)家認為的“人工智能冬天”（即人工智能及公眾興趣走低的時期），人們對人工智能帶來的后果和治理效果也抱有擔(dān)憂和恐慌。另外，人工智能的潛在應(yīng)用范圍極廣、社會影響深遠，這勢必引發(fā)人們對隱私、安全、偏差、公正等議題的擔(dān)憂。因此，在制定政策時必須從多領(lǐng)域的現(xiàn)有框架中汲取經(jīng)驗，包括國際法、公共政策、數(shù)據(jù)治理與倫理道德規(guī)范等領(lǐng)域。
（二）2010年到2016年：人工智能加速發(fā)展帶來的挑戰(zhàn)
2010年以后人工智能的發(fā)展開始提速，主要源于三方面的突破：一是計算能力提升，二是云計算渠道增加，三是數(shù)字化數(shù)據(jù)量激增。同時，人工智能在深度學(xué)習(xí)方面也取得了明顯進展。
人工智能的快速發(fā)展及應(yīng)用的確鼓舞人心，但同樣也引發(fā)了公眾對數(shù)據(jù)使用和侵犯隱私等多方面的擔(dān)憂。在獲取或開發(fā)深度學(xué)習(xí)技術(shù)的熱潮中，亟需防范的主要是涉及決策類的應(yīng)用，如執(zhí)法、人力資源和金融等敏感領(lǐng)域的應(yīng)用。此外，人工智能系統(tǒng)對特定社會群體的不公正對待現(xiàn)象及宏觀層面的關(guān)切也時有報道。
對那些希望快速從人工智能發(fā)展中受益的人來說，重點是如何在安全和創(chuàng)新之間保持平衡。人工智能開始加速發(fā)展，治理不到位自然也就成了“速度問題”（法律法規(guī)無法跟上技術(shù)進步）。
（三）2016年到2019年：發(fā)布原則與指南
到2016年，公眾越發(fā)意識到如果不對人工智能進行適當(dāng)?shù)谋O(jiān)管和引導(dǎo)，將會干擾公眾生活，擴大社會不平等，加劇現(xiàn)有偏見，并破壞隱私，而所有這些都會削弱公眾對人工智能的信任，從而使人工智能造福社會的潛力消失殆盡。
（四）2019年至今：持續(xù)加速與治理創(chuàng)新
普及人工智能原則與道德指南有助于揭示人工智能跨國治理的關(guān)鍵要素。從2019年開始出現(xiàn)兩個轉(zhuǎn)折點：一是指明了實施上的差距，二是就原則轉(zhuǎn)化成可操作的治理機制問題點明了未來的努力方向。努力的目標(biāo)基本上是“柔性”治理機制。盡管存在更傳統(tǒng)的治理形式（如直接禁用某些應(yīng)用，或通過算法對立法倡議進行問責(zé)），但在規(guī)范的實際制定過程中仍以“柔性”治理機制為主。各主體對這一課題的日益關(guān)注，說明公眾普遍認為現(xiàn)有制度和規(guī)則已無法確保人工智能以負責(zé)任的方式向前發(fā)展。
三、從原則到實踐：在不扼殺創(chuàng)新的前提下管控風(fēng)險，推動人工智能道德實用化
截至2020年，各國政府、倡議機構(gòu)、國際組織、私營企業(yè)等已頒布了100多條人工智能指導(dǎo)原則，人工智能方面的國際合作已經(jīng)取得了長足進展。但仍有許多企業(yè)在“技術(shù)沖擊”面前手忙腳亂，人工智能治理自身的不確定性也開始增大，這一切都對原則向?qū)嵺`的轉(zhuǎn)化構(gòu)成了壓力。德勤事務(wù)所最近的一項調(diào)查顯示，多數(shù)受訪企業(yè)目前正在試圖通過內(nèi)部治理和正規(guī)的框架來解決問題，爭取在不扼殺創(chuàng)新的前提下管控風(fēng)險。
（一）人工智能治理是實現(xiàn)負責(zé)任的人工智能的必經(jīng)之路
雖然面臨巨大風(fēng)險，人工智能帶來的機遇仍是許多機構(gòu)考慮的頭等大事。最近提出了“負責(zé)任的人工智能”（Responsible AI）一詞，描述的是一套確保人工智能應(yīng)用不會“背叛”人類的辦法。這套辦法的核心是“創(chuàng)新型治理機制”，而“創(chuàng)新型治理機制”正迅速成為利用人工智能的公司之間的關(guān)鍵競爭差異。
（二）采用風(fēng)險法來識別和消除治理差距
私企和公共部門面臨的最大問題之一都是缺乏優(yōu)先級。人工智能會給不同行業(yè)帶來巨大沖擊，但由于其技術(shù)仍在持續(xù)發(fā)展中，且人們對其能力和影響力還處于不斷認識中，其影響的程度和時間范圍都無法確定。近期至未來很長一段時間，人工智能的直接和間接影響將被大家逐漸認識，這也會進一步增加系統(tǒng)治理的復(fù)雜性。
（三）推動公眾了解和信任人工智能
在過去十年中，一些潛在的人工智能治理手段逐漸出現(xiàn)，主要是強化消費者對人工智能產(chǎn)品的消費意識，具體包括認證、標(biāo)簽、獎勵等手段。通過這些手段，提高產(chǎn)品透明度來影響購買行為，再通過市場、聲譽和品牌的力量以及人工智能產(chǎn)品公司之間的競爭，促進消費者有效參與人工智能道德與責(zé)任決策。
（四）政府主導(dǎo)的人工智能治理
宏觀層面上，很多政府部門已經(jīng)開始圍繞人工智能采取有效措施，在制定有效人工智能規(guī)則和規(guī)范方面，壓力和迫切性并存。經(jīng)合組織的跟蹤調(diào)查表明：一些政策源于國家級人工智能戰(zhàn)略（如立法提案、跨國合伙關(guān)系、貿(mào)易協(xié)定條款等），另一些則是在較為柔性的規(guī)范定義法基礎(chǔ)上制定的，旨在化解風(fēng)險，以此推動人工智能解決方案的出臺。
四、多利益攸關(guān)方參與的方法論
鑒于人工智能系統(tǒng)彼此交融的性質(zhì)，各方如果單打獨斗，注定將失敗。反之，多利益攸關(guān)方共同參與治理，有助于提升全球范圍內(nèi)開發(fā)“負責(zé)任的人工智能”的能力。只有多利益攸關(guān)方共同參與才能獲取公眾和社會的認可，最終贏得大眾的信任。許多案例都充分證明：只要通過與跨區(qū)、跨界、跨業(yè)的利益攸關(guān)方建立建設(shè)性關(guān)系，并以此為基礎(chǔ)創(chuàng)建和維護負責(zé)任的人工智能治理機制，就有可能贏得公眾的信任。而要建立這些關(guān)系，就必須與人工智能的受眾進行開誠布公的對話，無論這些受眾是客戶還是公民。
（一）利益攸關(guān)方的參與
“多方參與”涉及的一個關(guān)鍵問題是各行為體的貢獻內(nèi)容和貢獻方式。每個利益攸關(guān)方都有自己獨特的視角，每個群體也都會堅持各自的利益。
（二）靈活治理
多利益攸關(guān)方的思路若與靈活治理的方法相結(jié)合，就會容納更多人參與決策流程，并可通過快速迭代來滿足每個人的需求。最終，決策將變得更具包容性，也更加以人為本。
下面的例子展示了多利益攸關(guān)方群體基于現(xiàn)有通用原則對特定背景和特定用途的框架進行設(shè)計和測試的方法。
（三）全球人工智能行動聯(lián)盟
2020年5月全球人工智能理事會批準(zhǔn)了加速合作的提議，以推動全球合作，快速推廣人工智能監(jiān)管工具和實踐。世界經(jīng)濟論壇也于2021年發(fā)起了“全球人工智能行動聯(lián)盟”（GAIA）。該聯(lián)盟以世界經(jīng)濟論壇的全球多利益攸關(guān)方共同體為基礎(chǔ)，成員包括很多活躍在人工智能領(lǐng)域的頂級企業(yè)、政府和公民社會組織，這些機構(gòu)在過去三年針對人工智能技術(shù)的開發(fā)和應(yīng)用成功推出了多種交互操作式監(jiān)管機制。此外，聯(lián)盟還與論壇下設(shè)的“工業(yè)行動小組”和“通用數(shù)據(jù)倡議”（DCPI）密切合作，旨在推進全球各行業(yè)實現(xiàn)交互式操作。
譯自：
The AI Governance Journey:Development and Opportunities，November 2021 by World Economic Forum
