本文來(lái)自品途商業(yè)評(píng)論，文/業(yè)界風(fēng)云匯。
機(jī)器人不得傷害人類(lèi)個(gè)體，或者目睹人類(lèi)個(gè)體將遭受危險(xiǎn)而袖手不管
機(jī)器人必須服從人給予它的命令，當(dāng)該命令與第一定律沖突時(shí)例外
機(jī)器人在不違反第一、第二定律的情況下要盡可能保護(hù)自己的生存
20世紀(jì)中期，機(jī)器人三法則問(wèn)世。世界科幻小說(shuō)三巨頭之一阿西莫夫的筆下，AI技術(shù)的發(fā)展被限制在此條框之內(nèi)，影響至今。
無(wú)規(guī)矩，不成方圓。
科技世界里，規(guī)矩被具化成機(jī)器人三法則所代表的科技倫理。若脫離倫理任由技術(shù)“自由”生長(zhǎng)，結(jié)局必定是對(duì)人類(lèi)社會(huì)造成反噬，由阿西莫夫同名小說(shuō)改編的電影《I,Robot》講的就是這樣一個(gè)故事。
半個(gè)多世紀(jì)過(guò)去了，AI技術(shù)已然不可同日而語(yǔ)，對(duì)應(yīng)的AI倫理又該是怎樣？
近日，恰逢2022世界人工智能大會(huì)召開(kāi)，同往年一樣，AI倫理正是核心議題之一。
會(huì)議期間，IFF國(guó)際金融論壇、新加坡國(guó)立大學(xué)李光耀公共政策學(xué)院、新加坡AIII人工智能?chē)?guó)際研究院、日本神戶(hù)大學(xué)、日本國(guó)際元宇宙協(xié)會(huì)、三井住友保險(xiǎn)、上海交通大學(xué)中國(guó)法與社會(huì)研究院、上海人工智能研究院、特斯聯(lián)、商湯科技等多家國(guó)際機(jī)構(gòu)與知名學(xué)者，共同發(fā)起了“亞洲科技促進(jìn)可持續(xù)發(fā)展目標(biāo)聯(lián)盟”，并全球人類(lèi)命運(yùn)共同體發(fā)出“上海倡議“，具體包括：
1個(gè)總體目標(biāo)：科技促進(jìn)亞洲可持續(xù)發(fā)展目標(biāo)實(shí)現(xiàn)
2項(xiàng)共識(shí)：以人為本、技術(shù)可控
3類(lèi)挑戰(zhàn)應(yīng)對(duì)：亞洲不平衡發(fā)展的“數(shù)字經(jīng)濟(jì)鴻溝“、”供應(yīng)鏈鴻溝“、“ESG鴻溝”
4種舉措：數(shù)字基礎(chǔ)設(shè)施互聯(lián)互通，數(shù)字公共服務(wù)包容發(fā)展，數(shù)字信任與倫理安全，數(shù)字社會(huì)能力建設(shè)
面對(duì)新興科技可能帶來(lái)的風(fēng)險(xiǎn)，AI三法則是時(shí)候更新了。
刷新AI倫理，勢(shì)在必行
最初的機(jī)器人三法則還適用嗎？人工智能產(chǎn)業(yè)常會(huì)為此爭(zhēng)論不休。
答案是肯定的，因?yàn)槿▌t是AI倫理的根基?？稍诖嘶A(chǔ)之上，還應(yīng)與時(shí)俱進(jìn)地進(jìn)行延展。
根據(jù)工信部的數(shù)據(jù)，截至目前，中國(guó)人工智能核心產(chǎn)業(yè)規(guī)模已經(jīng)超過(guò)4000億元，企業(yè)數(shù)量超過(guò)3000家。且隨著人工智能與制造、交通、醫(yī)療、民生等領(lǐng)域加速融合，產(chǎn)業(yè)規(guī)模還將持續(xù)爆發(fā)。
在產(chǎn)業(yè)爆發(fā)的背景下，近年來(lái)全球AI倫理體系的建設(shè)進(jìn)程明顯加速。
例如2016年，Google、Facebook、IBM、亞馬遜、微軟等美國(guó)知名科技公司共同宣布成立“Partnership on AI”合作組織，并發(fā)布《Principles of Partnership on AI》，該組織表示將設(shè)立未來(lái)人工智能領(lǐng)域研究者需要遵守的行為準(zhǔn)則。
視線(xiàn)回到國(guó)內(nèi)，企業(yè)的探索與政策的引導(dǎo)正同步展開(kāi)。
以商湯科技為例，去年世界人工智能大會(huì)上，正式提出了“平衡發(fā)展”的AI倫理觀，以及“以人為本、技術(shù)可控、可持續(xù)發(fā)展”三大核心原則。并基于此從組織建設(shè)、機(jī)制建設(shè)、工具建設(shè)、文化建設(shè)、生態(tài)建設(shè)等多方面展開(kāi)了實(shí)踐。
從實(shí)踐中總結(jié)經(jīng)驗(yàn)，今年大會(huì)上，商湯科技在《“平衡發(fā)展”的人工智能治理白皮書(shū)》中再次強(qiáng)調(diào)，“人工智能的發(fā)展與治理應(yīng)當(dāng)并行，兩者的功能和關(guān)系正如汽車(chē)的‘發(fā)動(dòng)機(jī)’和‘方向盤(pán)’，相輔相成、缺一不可”，并進(jìn)一步提出發(fā)展“負(fù)責(zé)任且可評(píng)估”的人工智能。
政策方面，對(duì)技術(shù)的倫理與治理也給出了方法論。
今年3月份中共中央辦公廳、國(guó)務(wù)院辦公廳印發(fā)《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》，治理要求中明確提到了兩點(diǎn)，倫理先行和立足國(guó)情。前者，強(qiáng)調(diào)了科技倫理對(duì)科研創(chuàng)新保障的重要性；后者，則要求倫理體系建設(shè)以及治理的過(guò)程要開(kāi)放包容、因地制宜、造福人民。
志在為全球科技倫理治理貢獻(xiàn)中國(guó)實(shí)踐智慧和亞洲共識(shí)方案，亞洲科技促進(jìn)可持續(xù)發(fā)展目標(biāo)聯(lián)盟的成立意義由此凸顯。
隨著AI產(chǎn)業(yè)化將迎來(lái)大規(guī)模的爆發(fā)，須有倫理原則、ESG原則引導(dǎo)方向。以聯(lián)盟匯聚產(chǎn)業(yè)力量，共同刷新當(dāng)前的AI倫理法則，勢(shì)在必行。
底線(xiàn)與追求，讓AI平衡發(fā)展
完備的倫理治理體系，是促進(jìn)科技創(chuàng)新可持續(xù)發(fā)展的標(biāo)配。辨明是不是的問(wèn)題之后，我們來(lái)剖析具體的原則。
首先能夠確定的是，所有技術(shù)發(fā)展的底線(xiàn)均是以人為本，人工智能概莫能外。
上個(gè)世紀(jì)阿西莫夫?yàn)锳I倫理做的奠基，核心思想就是以人為本，因而要求機(jī)器人不得傷害人類(lèi)、服從人類(lèi)的指令。
從小說(shuō)走進(jìn)現(xiàn)實(shí)，AI的落地生根，讓倫理原則的適用范圍則變得更為復(fù)雜。
大數(shù)據(jù)、計(jì)算機(jī)視覺(jué)、語(yǔ)音識(shí)別、機(jī)器學(xué)習(xí)等，某項(xiàng)技術(shù)普及開(kāi)來(lái)，其必須正視不同國(guó)家地區(qū)的歷史、文化、社會(huì)、經(jīng)濟(jì)等方面的發(fā)展差異，讓技術(shù)實(shí)現(xiàn)無(wú)偏見(jiàn)的應(yīng)用，此前有公司的圖像識(shí)別算法將黑人識(shí)別為“靈長(zhǎng)類(lèi)動(dòng)物”就是最典型的反面案例。
當(dāng)然，業(yè)內(nèi)也能找到很多正面樣本。比如現(xiàn)代社會(huì)家長(zhǎng)多會(huì)因?yàn)楹⒆舆^(guò)多接觸電子屏幕而頭疼，商湯科技近期發(fā)布的“元蘿卜”AI下棋機(jī)器人則為孩子的興趣轉(zhuǎn)移找到了一個(gè)很好的解決方案。依托AI視覺(jué)技術(shù)和機(jī)械臂技術(shù)，讓下棋機(jī)器人與孩子進(jìn)行互動(dòng)游戲，可有效鍛煉孩子思維能力。
其次在終極方向上，AI技術(shù)的發(fā)展不能偏離促進(jìn)社會(huì)、經(jīng)濟(jì)、文化及環(huán)境可持續(xù)發(fā)展的軌道。
這一點(diǎn)也是產(chǎn)業(yè)共識(shí)，從“亞洲科技促進(jìn)可持續(xù)發(fā)展目標(biāo)聯(lián)盟”的名字就能窺得。在《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》里，倫理原則第一條就明確提出科技活動(dòng)應(yīng)“增進(jìn)人類(lèi)福祉”，促進(jìn)人類(lèi)社會(huì)和平發(fā)展和可持續(xù)發(fā)展。
再進(jìn)一步看，可持續(xù)發(fā)展覆蓋了社會(huì)、經(jīng)濟(jì)、環(huán)境、文化等多個(gè)方面，技術(shù)需與時(shí)代趨勢(shì)同頻共振，并根據(jù)各行業(yè)的實(shí)情去助力發(fā)展的可持續(xù)。
在環(huán)保方面，近年全球都在向碳中和的綠色目標(biāo)挺進(jìn)，AI技術(shù)就大有可為。如電力工業(yè)作為全球主要的二氧化碳排放源，行業(yè)的數(shù)字化轉(zhuǎn)型和降本提效可以有效促進(jìn)減排。為此，商湯科技把AI與AR技術(shù)結(jié)合，為電力工業(yè)量身定做電網(wǎng)智能巡檢解決方案，以智能技術(shù)的輔助來(lái)節(jié)省運(yùn)維時(shí)間和人力成本，從技術(shù)層面為電力系統(tǒng)低碳轉(zhuǎn)型的可持續(xù)發(fā)展添了一份力。
最后需要思考的問(wèn)題是，在技術(shù)應(yīng)用的過(guò)程中怎樣保證上述底線(xiàn)與追求如期從規(guī)劃落到執(zhí)行？答案很簡(jiǎn)單——技術(shù)可控。
技術(shù)可控，實(shí)際上就是要確保人工智能由人類(lèi)開(kāi)發(fā)、為人類(lèi)服務(wù)、受人類(lèi)控制，相應(yīng)地，其人工智能應(yīng)用導(dǎo)致的倫理責(zé)任也應(yīng)由其控制者（人類(lèi)）承擔(dān)。
責(zé)任主體的明確，給技術(shù)的應(yīng)用上了一道倫理、法治的安全鎖，更利于把技術(shù)發(fā)展的風(fēng)險(xiǎn)控制在源頭。遵循技術(shù)可控理念開(kāi)發(fā)的產(chǎn)品，自然就避免了失控所導(dǎo)致的一系列問(wèn)題。
綜上，結(jié)合AI技術(shù)應(yīng)用落地的實(shí)際案例，從產(chǎn)業(yè)發(fā)展的底層邏輯來(lái)看，以人為本、技術(shù)可控、可持續(xù)發(fā)展，商湯科技基于“平衡發(fā)展”而完善的倫理原則，恰是適應(yīng)當(dāng)前周期的“新AI三法則”。
當(dāng)下治理，是在給未來(lái)“治病”
谷歌公司的座右銘相信大家都很熟悉，不作惡。作為科技公司，包括谷歌在內(nèi)，行業(yè)深知技術(shù)作惡的危害性。科技倫理的存在，就是為消除技術(shù)潛在作惡的可能性。
業(yè)內(nèi)經(jīng)常會(huì)舉一個(gè)例子：試想未來(lái)的某一天，你趕時(shí)間去機(jī)場(chǎng)，于是對(duì)自動(dòng)駕駛的網(wǎng)約車(chē)發(fā)出指令“送我到機(jī)場(chǎng)，越快越好”，而AI在執(zhí)行該指令時(shí)超速行駛、闖了紅燈并撞倒了行人。
這便是科技倫理缺位的災(zāi)難性后果，而為了預(yù)防該場(chǎng)景上演，企業(yè)必須在技術(shù)研發(fā)、產(chǎn)品設(shè)計(jì)階段就提前給予治理。
上醫(yī)，治未病。
對(duì)此，商湯科技聯(lián)合創(chuàng)始人，人工智能倫理與治理委員會(huì)委員楊帆表示：“AI倫理風(fēng)險(xiǎn)的邊界和核心要求是發(fā)展負(fù)責(zé)任且可評(píng)估的人工智能，在治理和合規(guī)上企業(yè)要先想一步，先做一步。”
“負(fù)責(zé)任且可評(píng)估的人工智能”的核心特點(diǎn)；來(lái)源：商湯《“平衡發(fā)展”的人工智能治理白皮書(shū)》
負(fù)責(zé)任且可評(píng)估，在明確責(zé)任主體之后，商湯科技對(duì)人工智能治理提出的進(jìn)一步要求。具體包括七個(gè)方面：對(duì)人負(fù)責(zé)、對(duì)社會(huì)負(fù)責(zé)、對(duì)環(huán)境負(fù)責(zé)、責(zé)任可溯源、風(fēng)險(xiǎn)可評(píng)估、過(guò)程可評(píng)估以及效果可評(píng)估。
而透過(guò)治理體系的完善以及商湯過(guò)去的治理實(shí)踐可以看出：人工智能這項(xiàng)面向星辰大海的前沿技術(shù)，每走一步都要腳踏實(shí)地。
這正契合法國(guó)哲學(xué)家薩特的觀點(diǎn)，“自由是一種責(zé)任”。
產(chǎn)業(yè)爆發(fā)之下，AI技術(shù)發(fā)展的自由，實(shí)際上是建立在對(duì)自己，對(duì)他人，對(duì)社會(huì)以及對(duì)技術(shù)本身負(fù)責(zé)的基礎(chǔ)之上。唯有如此，技術(shù)的價(jià)值才能得到最大化釋放。隨著時(shí)間推移，當(dāng)下進(jìn)行的科技倫理建設(shè)、治理工作可產(chǎn)生的效益會(huì)愈發(fā)凸顯。
不過(guò)話(huà)說(shuō)回來(lái)，科技倫理治理絕非易事。
阿西莫夫定下的機(jī)器人三法則，在科幻作品中常常會(huì)被打破。放之情況更為復(fù)雜的現(xiàn)實(shí)生活，對(duì)應(yīng)的挑戰(zhàn)性可想而知。而且，這是全球、全行業(yè)的共性命題，還需所有行業(yè)參與者共同建設(shè)。
好在，有人正在堅(jiān)持做著難且正確的事。
