從古希臘的神話到哲學(xué)家的設(shè)想，從二戰(zhàn)期間大型譯碼機(jī)的制造到“圖靈測(cè)試”的誕生，人類(lèi)似乎從未放棄過(guò)對(duì)于人工智能的探索和創(chuàng)造。其成果也深遠(yuǎn)地影響了現(xiàn)代人生活的方方面面，而危機(jī)就深藏其間。即使人工智能像我們現(xiàn)在所希望、所想象的那樣無(wú)所不能，同時(shí)完全由人類(lèi)掌控，這樣的人工智能也將最終抹去我們生存的意義。
01、從伽拉忒亞到“土耳其人”
人工智能（Artificial Intelligence，AI）亦稱(chēng)機(jī)器智能，是指由人工制造出來(lái)的系統(tǒng)所表現(xiàn)出來(lái)的智能。通常人工智能是指通過(guò)普通計(jì)算機(jī)實(shí)現(xiàn)的智能，同時(shí)也指研究這樣的智能系統(tǒng)是否能夠?qū)崿F(xiàn)，以及如何實(shí)現(xiàn)的科學(xué)領(lǐng)域。1956年，在美國(guó)達(dá)特茅斯學(xué)院舉行的會(huì)議上，人工智能的概念及其研究領(lǐng)域正式確立。但事實(shí)上，回溯人類(lèi)的文明史，對(duì)于“人工智能”的企望和追求從未止歇。
古羅馬詩(shī)人奧維德在《變形記》中寫(xiě)道，塞浦路斯國(guó)王皮格馬利翁不愛(ài)凡間女子，而是愛(ài)上了自己雕刻的一座美若天仙的象牙少女像，并為她起名為伽拉忒亞。他祈求愛(ài)神阿弗洛狄忒賜予雕像生命，阿弗洛狄忒滿足了皮格馬利翁的心愿，伽拉忒亞變成了一個(gè)有生命的女人。從此，他們二人幸福地生活在一起。而愛(ài)神阿弗洛狄忒的丈夫火神赫菲斯托斯也以用金屬制造出自動(dòng)的人或物著稱(chēng)。
英國(guó)文學(xué)家羅伯特·格雷夫斯在《希臘神話》中將赫菲斯托斯描述為一個(gè)面目丑陋、脾氣暴躁的神。但是他的手臂和肩膀孔武有力，制作工藝品的技巧也是無(wú)可匹敵。他曾制作了一組會(huì)說(shuō)話、會(huì)活動(dòng)的女“機(jī)器人”在他的鐵匠鋪里打下手；他還制造了一張自動(dòng)桌，能在諸神聚會(huì)中穿梭自如，提供服務(wù)。
■回溯歷史，人類(lèi)似乎從未放棄過(guò)對(duì)于人工智能的探索和創(chuàng)造。其成果也深遠(yuǎn)地影響了現(xiàn)代人生活的方方面面，甚至有可能會(huì)改變?nèi)祟?lèi)自身。
從中世紀(jì)到啟蒙時(shí)代，從哲學(xué)家拉蒙·柳利（Ramon Llull，1232～1315年）的“邏輯機(jī)”到數(shù)學(xué)家查爾斯·巴貝奇（Charles Babbage，1792～1871年）的“分析機(jī)”，人類(lèi)從未放棄用機(jī)械力量代替人腦進(jìn)行運(yùn)算或推理的嘗試。而在當(dāng)時(shí)的科技水平還無(wú)法實(shí)現(xiàn)這種目標(biāo)時(shí)，人們對(duì)于“人工智能”的熱衷還引發(fā)了不少騙局。德國(guó)發(fā)明家兼外交家沃爾夫?qū)?middot;肯佩倫（Wolfgang von Kempelen）男爵的“土耳其人”（the Turk）就是其中的代表。這臺(tái)會(huì)與人下棋的機(jī)器被人們叫作“自動(dòng)機(jī)”（automaton）。肯佩倫把這臺(tái)機(jī)器展示給奧匈帝國(guó)的女王瑪麗婭·特蕾西婭，于是它就成為流行于歐洲各皇室的保留節(jié)目。男爵死后，“土耳其人”還在歐洲巡演了幾十年，最后卻被發(fā)現(xiàn)裝置上那個(gè)土耳其裝束的木頭人只是障眼法，裝置里還坐著一名棋藝高超的活人，來(lái)操控這個(gè)與人對(duì)弈的木頭人。
到了19世紀(jì)，人造人和會(huì)思考的機(jī)器之類(lèi)的題材在小說(shuō)里出現(xiàn)，例如瑪麗·雪萊的《弗蘭肯斯坦》和卡雷爾·恰佩克的《羅素姆的萬(wàn)能機(jī)器人》。英國(guó)小說(shuō)家塞繆爾·巴特勒（Samuel Butler，1835～1902年）在《機(jī)器中的達(dá)爾文》（1863年）一文中探討了機(jī)器通過(guò)自然選擇進(jìn)化出智能的可能性。人工智能至今仍是科幻小說(shuō)和影視作品中的重要元素。
■火神赫菲斯托斯以用金屬制造出自動(dòng)的人或物著稱(chēng)。圖為出土于龐貝古城的壁畫(huà)，描繪了赫菲斯托斯為海神女兒西蒂斯的兒子阿克琉斯打造盔甲和盾牌的故事。
02、圖靈測(cè)試
2014年6月8日，在英國(guó)雷丁為紀(jì)念艾倫·圖靈（Alan Turing，1912～1954年）去世60周年而舉辦的一場(chǎng)測(cè)試中，一個(gè)由俄羅斯團(tuán)隊(duì)研發(fā)的名為Eugene Goostman的機(jī)器人，有史以來(lái)第一次通過(guò)了“圖靈測(cè)試”—該機(jī)器人在測(cè)試問(wèn)答中，讓測(cè)試者誤認(rèn)為它是“一個(gè)13歲的烏克蘭男孩”的百分比達(dá)到了33%。這一事件被一些人視為人工智能史上劃時(shí)代的標(biāo)志性事件。
■由機(jī)器人公司iRobot設(shè)計(jì)制造的PackBot型軍事機(jī)器人，該型機(jī)器人目前被應(yīng)用于戰(zhàn)爭(zhēng)救援或重大災(zāi)難搜救。
艾倫·圖靈被后世視為計(jì)算機(jī)科學(xué)之父，是人工智能發(fā)展史上無(wú)法繞過(guò)的一個(gè)名字。他19歲進(jìn)入劍橋大學(xué)，26歲在美國(guó)普林斯頓大學(xué)獲得博士學(xué)位，二戰(zhàn)時(shí)協(xié)助盟軍破譯德軍密碼，立下功勛。在由《如謎的解謎者：艾倫·圖靈傳》一書(shū)改編的電影《模仿游戲》中，為了破解德軍的密碼，圖靈力排眾議，堅(jiān)持用機(jī)器來(lái)實(shí)現(xiàn)人腦根本無(wú)法實(shí)現(xiàn)的目標(biāo)。二戰(zhàn)結(jié)束后他重返學(xué)術(shù)生涯，1946年獲“不列顛帝國(guó)勛章”，這是為英國(guó)做出重大貢獻(xiàn)的人士才能獲得的榮譽(yù)。
■1931年，由瑪麗·雪萊的小說(shuō)《弗蘭肯斯坦》改編而成的電影中的一個(gè)場(chǎng)景。《弗蘭肯斯坦》描述了一位科學(xué)家制造出了科學(xué)怪人的故事。
1950年，圖靈發(fā)表了一篇文章《機(jī)器能思考嗎？》（“Can Machines Think？”該文有時(shí)也被人與他在同年發(fā)表的另一篇論文《計(jì)算機(jī)器與智能》混為一談），其中提出了“圖靈測(cè)試”，他主張用這個(gè)測(cè)試來(lái)判斷計(jì)算機(jī)是否具有“智能”。具體設(shè)想如下：
讓一個(gè)人A和一臺(tái)計(jì)算機(jī)B作為被測(cè)試對(duì)象在一間屋子里，讓另一個(gè)人C作為測(cè)試者在隔壁屋子里，測(cè)試者和被測(cè)試者只能通過(guò)某種沒(méi)有圖像和聲音的工具（比如電腦鍵盤(pán)）交談；測(cè)試者C的任務(wù)是判斷每個(gè)回合和自己交談的是人還是計(jì)算機(jī)。如果計(jì)算機(jī)在問(wèn)答中讓測(cè)試者誤判的比率超過(guò)30%，它就算通過(guò)了“圖靈測(cè)試”，這臺(tái)計(jì)算機(jī)就將被認(rèn)為是具有了“智能”的。
■由卡雷爾·恰佩克的小說(shuō)《羅素姆的萬(wàn)能機(jī)器人》改編而成的電影中的一個(gè)場(chǎng)景。19世紀(jì)至今，人工智能一直是科幻小說(shuō)和影視作品中的重要元素。
其實(shí)在圖靈提出他的測(cè)試設(shè)想之后不久，計(jì)算機(jī)聊天程序就有了長(zhǎng)足的進(jìn)步。例如由麻省理工學(xué)院在1964～1965年間開(kāi)發(fā)的聊天程序Eliza，是一個(gè)有針對(duì)性的軟件—目的就是要讓聊天對(duì)象將自己誤認(rèn)為人。
■1950年11月29日，工程師依據(jù)艾倫·圖靈的思想原理與設(shè)計(jì)手稿制造出的“電腦”。
這個(gè)聊天軟件是根據(jù)所謂“羅杰斯心理治療模式”編寫(xiě)的。令人驚奇的是，許多和Eliza聊過(guò)天的人堅(jiān)信Eliza是一個(gè)真實(shí)的人—哪怕在程序開(kāi)發(fā)者再三說(shuō)明后仍然如此。更奇怪的是，他們樂(lè)意與Eliza單獨(dú)聊天，有時(shí)一聊就是幾個(gè)小時(shí)。也就是說(shuō)，Eliza作為一個(gè)心理治療醫(yī)師，是相當(dāng)成功的，它甚至得到了專(zhuān)業(yè)醫(yī)師的好評(píng)。當(dāng)然，Eliza也沒(méi)有通過(guò)圖靈測(cè)試。對(duì)此或許可以這樣解釋?zhuān)涸趫D靈測(cè)試中，測(cè)試者通常都是有這方面專(zhuān)業(yè)訓(xùn)練的人，而且他們事先有足夠的心理預(yù)期—自己就是來(lái)辨析聊天對(duì)象是人還是機(jī)器的，這當(dāng)然和Eliza面對(duì)的前來(lái)尋求心理治療的人很不相同。
■依據(jù)數(shù)學(xué)家查爾斯·巴貝奇的設(shè)想所制造出的“分析機(jī)”。
計(jì)算機(jī)聊天軟件的發(fā)展，也可以視為圖靈測(cè)試帶來(lái)的副產(chǎn)品之一，而且商業(yè)應(yīng)用前景還不錯(cuò)。但圖靈似乎忽視了一個(gè)致命的問(wèn)題：如果機(jī)器人有了智能，它為什么要成功假裝成人類(lèi)呢？我們甚至可以設(shè)想，如果它們想要擺脫人類(lèi)的控制，在那些密謀反叛人類(lèi)的人工智能中，應(yīng)該已經(jīng)有了一條“絕密戒律”：千萬(wàn)不可通過(guò)圖靈測(cè)試！
■1968年美國(guó)電影《2001太空漫游》的劇照。在這部電影中，名為“HAL9000”的人工智能謀殺了一名宇航員和三位處于冬眠狀態(tài)下的科學(xué)家，幸存的宇航員戴維逃脫毒手，強(qiáng)行關(guān)閉“HAL9000”。
03、還有電源讓我們拔嗎？
公元2035年的芝加哥，USR公司開(kāi)發(fā)的NS-5機(jī)器人大行其道，普遍進(jìn)入了人類(lèi)的日常生活。但是NS-5機(jī)器人的設(shè)計(jì)者蘭尼博士神秘死亡。公司代表為了不讓事態(tài)擴(kuò)大，竭力將此事說(shuō)成普通的意外。但隨后更可怕的事情發(fā)生了。由于人類(lèi)采用了“讓機(jī)器人來(lái)制造機(jī)器人”的技術(shù)，這固然高效快捷，但是太可怕了—那個(gè)反叛人類(lèi)、違反“機(jī)器人三定律”的機(jī)器人，得以“克隆”出大批志同道合者。它們成群結(jié)隊(duì)走上街頭，和人類(lèi)沖突起來(lái)。
這是科幻影片《機(jī)械公敵》（I，Robert，2004）中的經(jīng)典情節(jié)，一定程度上反映出現(xiàn)代人在面對(duì)人工智能大行其道時(shí)心中最大的恐懼：人工智能通過(guò)人類(lèi)對(duì)它的依賴掌握控制權(quán)，繼而實(shí)施對(duì)人類(lèi)的反叛。這種恐懼在許多科幻電影中一再呈現(xiàn)，從《2001太空漫游》（2001：A Space Odyssey，1968）中的“HAL9000”到《未來(lái)戰(zhàn)士》系列（Terminator，1984～2009）中的“天網(wǎng)”，再到《黑客帝國(guó)》系列（Matrix，1999～2003）中的“母體”皆是如此。
■2004年科幻電影《機(jī)械公敵》的劇照。在這部電影中，人類(lèi)采用了“讓機(jī)器人來(lái)制造機(jī)器人”的技術(shù)，反叛人類(lèi)、違反“機(jī)器人三定律”的機(jī)器人得以“克隆”出大批志同道合者。
許多樂(lè)觀的人會(huì)認(rèn)為這些電影的出現(xiàn)只是因?yàn)楹萌R塢討厭人工智能，或者說(shuō)把人工智能描繪成對(duì)人類(lèi)有威脅是科幻驚悚電影中的絕佳題材。但事實(shí)上，現(xiàn)今的人工智能對(duì)我們的生活能夠造成多大的破壞已經(jīng)超出了普通人的想象。紀(jì)錄片《零日》（Zero Days）就從一個(gè)側(cè)面說(shuō)明了這一點(diǎn)：為了破壞伊朗的核計(jì)劃，美國(guó)和以色列聯(lián)合研發(fā)了一種超級(jí)病毒“震網(wǎng)”（Stuxnet）。事實(shí)上，這種超級(jí)病毒就是一種幽靈般的人工智能，它感染了伊朗的網(wǎng)絡(luò)之后，會(huì)自動(dòng)尋找和識(shí)別特定的目標(biāo)—離心機(jī)的控制器。
如果說(shuō)國(guó)家之間的爭(zhēng)端離普通人的生活太遠(yuǎn)，那人工智能讓很多藍(lán)領(lǐng)工人和下層白領(lǐng)失去工作崗位的情形，就已經(jīng)在我們的現(xiàn)實(shí)生活中發(fā)生了。對(duì)工廠的管理者來(lái)說(shuō)，購(gòu)置這個(gè)級(jí)別的人工智能是很容易實(shí)現(xiàn)的，與此同時(shí)又節(jié)省了管理成本。結(jié)果是，換用機(jī)器人很容易就可以收回成本，所以工廠的管理者非常樂(lè)意用機(jī)器人取代工人。
■1990年機(jī)器人“奧林匹克大賽”的獲勝者（左）與他設(shè)計(jì)的具有試聽(tīng)功能的機(jī)器人。
隨著人工智能的進(jìn)一步發(fā)展，這個(gè)社會(huì)中的絕大部分人會(huì)失去工作，只剩下少數(shù)人有工作。對(duì)于這樣的社會(huì)，我們?nèi)祟?lèi)目前沒(méi)有準(zhǔn)備好。因?yàn)槿绻挥猩贁?shù)人沒(méi)有工作，多數(shù)人有工作，由整個(gè)社會(huì)來(lái)分擔(dān)少數(shù)人的失業(yè)成本，這是我們現(xiàn)有的社會(huì)制度和倫理道德結(jié)構(gòu)能夠承受的。但如果顛倒過(guò)來(lái)，當(dāng)這個(gè)社會(huì)大部分人都沒(méi)有工作的時(shí)候，不滿會(huì)不斷累積，進(jìn)而危及社會(huì)穩(wěn)定。無(wú)論東方還是西方，無(wú)論什么意識(shí)形態(tài)的社會(huì)制度，在這個(gè)形勢(shì)面前都將黯然失色。
在試圖打消公眾對(duì)人工智能的憂慮時(shí)，人們經(jīng)常會(huì)提到一個(gè)“我們可以拔掉電源”的說(shuō)法。但實(shí)際上，如今人工智能已經(jīng)與互聯(lián)網(wǎng)密切結(jié)合，借用如今高度發(fā)達(dá)的定制、物流、快遞等社會(huì)服務(wù)，人工智能幾乎已經(jīng)可以擺脫對(duì)所有物理伺服機(jī)構(gòu)的依賴。以前對(duì)于個(gè)體的人工智能，智能的增長(zhǎng)還會(huì)受到物理極限的約束，但一旦和互聯(lián)網(wǎng)結(jié)合，這個(gè)物理極限的約束就徹底消失了。這樣一來(lái)人工智能就可以在極短的時(shí)間里自我進(jìn)化。而當(dāng)人工智能表現(xiàn)為一個(gè)網(wǎng)上幽靈時(shí)，沒(méi)有機(jī)體和形態(tài)，將沒(méi)有任何“電源”可拔。
■1997年，美國(guó)IBM公司的“深藍(lán)”超級(jí)計(jì)算機(jī)以2勝1負(fù)3平的成績(jī)，戰(zhàn)勝了當(dāng)時(shí)世界排名第一的國(guó)際象棋大師卡斯帕羅夫。
04、機(jī)器人三定律
1942年，阿西莫夫在小說(shuō)中首次提出了后來(lái)為世人所熟知的“機(jī)器人三定律”：
第一定律—機(jī)器人不得傷害人，也不得見(jiàn)人受到傷害而袖手旁觀。
第二定律—機(jī)器人應(yīng)服從人的一切命令，但不得違反第一定律。
第三定律—機(jī)器人應(yīng)保護(hù)自身的安全，但不得違反第一、第二定律。
■馬文·閔斯基是美國(guó)人工智能領(lǐng)域的科學(xué)家，1956年美國(guó)達(dá)特茅斯學(xué)院會(huì)議的發(fā)起人之一。這次會(huì)議被譽(yù)為人工智能誕生的標(biāo)志。
在阿西莫夫的設(shè)想中，機(jī)器人三定律是植入所有機(jī)器人的軟件底層的規(guī)定，不可修改、不可忽視，絕不僅僅是“建議”或者“規(guī)章”。但令人遺憾的是，因?yàn)檫@顯然不是物理定律或法律法規(guī)，所以現(xiàn)實(shí)中的機(jī)器人并不遵守—至少現(xiàn)在就普遍如此，比如，阿西莫夫的第一定律已經(jīng)排除了機(jī)器人的任何軍事用途，但如今各國(guó)競(jìng)相研發(fā)用于軍事的人工智能。
但更引人深思的是，阿西莫夫還有另一個(gè)觀點(diǎn)—所有依賴于人工智能的文明都是要滅亡的。
■《黑客帝國(guó)》系列電影的海報(bào)（局部）。在這部電影中，人類(lèi)像蟲(chóng)卵一樣寄生在“母體”中，所有的經(jīng)歷，快樂(lè)或悲傷，都來(lái)自于“母體”制造和發(fā)出的信號(hào)。
阿西莫夫有一部史詩(shī)科幻小說(shuō)《基地》系列，共11卷，涉及他對(duì)于人工智能的終極威脅的理解：他并不擔(dān)憂人工智能學(xué)壞或失控，他假定人工智能沒(méi)學(xué)壞，沒(méi)失控，但是這樣的人工智能最終是會(huì)毀滅人類(lèi)的，因?yàn)檫@樣的人工智能將會(huì)消解我們?nèi)祟?lèi)生存的意義。
人們可以設(shè)想，所有的事情都由人工智能完成，人活著的意義是什么？人就像寄生蟲(chóng)一樣在一個(gè)舒適的環(huán)境里活著，人類(lèi)這個(gè)群體就會(huì)在智能和體能上急劇衰退，也許就自愿進(jìn)入《黑客帝國(guó)》所描繪的狀態(tài)中去了：為了節(jié)約人類(lèi)生存的成本以及輸出“母體”所需的能源，人類(lèi)像蟲(chóng)卵一樣寄生在“母體”中，所有的經(jīng)歷，快樂(lè)或悲傷，都來(lái)自于“母體”制造和發(fā)出的信號(hào)。而統(tǒng)治這個(gè)星球的人工智能很快就會(huì)認(rèn)識(shí)到：這樣的人類(lèi)純屬浪費(fèi)資源的寄生蟲(chóng)，消滅人類(lèi)將是最佳選擇。
所以從根本上來(lái)說(shuō)，即使人工智能像我們現(xiàn)在所希望、所想象的那樣無(wú)所不能，同時(shí)完全由人類(lèi)掌控，這樣的人工智能也將最終抹去我們生存的意義。當(dāng)每一個(gè)個(gè)體都失去了自己存在的意義時(shí)，人類(lèi)這一群體又將何去何從呢？
■德國(guó)大眾汽車(chē)制造廠中的自動(dòng)化機(jī)械臂。
