不久前，美國國防部高級研究計(jì)劃局（DARPA）的ACE計(jì)劃資助的一項(xiàng)名為“阿爾法狗斗”（AlphaDogfight Trials）的VR模擬人機(jī)對抗賽中，一個AI系統(tǒng)駕駛的F-16戰(zhàn)斗機(jī)，以5比0的大比分狂虐人類王牌飛行員，顯示出AI戰(zhàn)斗機(jī)在投入實(shí)戰(zhàn)對抗上面的巨大潛力。
這讓很多軍迷們紛紛驚呼，可能以后第六代戰(zhàn)斗機(jī)根本不需要什么人類飛行員了。當(dāng)然這也讓我們不禁擔(dān)憂，如果人工智能在戰(zhàn)場上失控，那么人類豈不是很難對付他們了？
無論是期待，還是恐懼，反正人工智能在戰(zhàn)爭武器上的應(yīng)用已經(jīng)悄然開啟。
據(jù)美媒體報道，借助對老式退役戰(zhàn)機(jī)F-16的無人駕駛能力的改造，美國空軍正在加速人工智能戰(zhàn)機(jī)的研制。與此同時，美國海軍也提出基于人工智能的第六代戰(zhàn)斗機(jī)設(shè)計(jì)，目前已經(jīng)結(jié)束概念設(shè)計(jì)的階段，開始探索相關(guān)基于人工智能的傳感器、新型武器和發(fā)動機(jī)技術(shù)的開發(fā)。
很顯然，DARPA推動的這場AI空戰(zhàn)挑戰(zhàn)賽，正是在為今后戰(zhàn)斗機(jī)的自動化作戰(zhàn)做技術(shù)預(yù)演。如果僅僅從技術(shù)角度觀察，我們可以說AI又拓展了一個新的應(yīng)用領(lǐng)域，而且表現(xiàn)確實(shí)相當(dāng)出色，但如果站在一個更宏觀的背景下，我們其實(shí)在見證一場不得了的事情，那就是AI技術(shù)可能帶來的一場新一輪的AI技術(shù)軍備競賽。
我們該如何來看待這一次AI戰(zhàn)斗機(jī)的牛刀初試，又該如何看待AI所可能開啟的新一輪軍備競賽？雖然現(xiàn)在可能不會有什么明確的答案，但仍然值得我們做一番“未雨綢繆”式的思考。
AI戰(zhàn)斗機(jī)表現(xiàn)如何？
在這一次“阿爾法狗斗”空戰(zhàn)對抗賽中勝出的AI系統(tǒng)名為“Heron”，是由美國的一家國防承包商蒼鷺系統(tǒng)公司（Heron Systems）研發(fā)。在和人類王牌飛行員Banger進(jìn)行決戰(zhàn)之前，“Heron”AI系統(tǒng)已經(jīng)在模擬空戰(zhàn)中擊敗了另外7家公司的AI，包括美國最大軍火商洛克希德馬丁公司的AI系統(tǒng)。
要知道蒼鷺公司也只是一家30多人的新興的技術(shù)公司，可見并不是實(shí)力越強(qiáng)勁的公司就越容易拿到AI的領(lǐng)先優(yōu)勢，同時也能看到只要能夠抓住人工智能的核心算法能力，即使是小團(tuán)隊(duì)也能取得一定的創(chuàng)新優(yōu)勢。
由于受到疫情影響，這場“阿爾法狗斗”對抗賽改成了線上直播。從直播的對抗賽來看，Heron的表現(xiàn)相當(dāng)完美，不僅始終在攻擊上占據(jù)上風(fēng)，而且射擊相當(dāng)精準(zhǔn)，而人類飛行員盡管在模擬對抗中可以突破人體極限，但仍然未能在模擬空戰(zhàn)中占得絲毫優(yōu)勢。
根據(jù)專家分析，Heron一直能夠憑借態(tài)勢感知能力優(yōu)勢率先占位，并通過精確判斷能力對人類飛行員形成碾壓。在預(yù)判的反應(yīng)速度上，人類飛行員需要0.3秒才能對敵機(jī)的行動做出反應(yīng)，而AI飛行員在幾毫秒內(nèi)就可以做出反應(yīng)，就算模擬F-16戰(zhàn)機(jī)從高速俯沖到低空盤旋，AI仍然具有超高的瞄準(zhǔn)能力，而這一點(diǎn)是人類飛行員難以做到的。
除了極具領(lǐng)先優(yōu)勢的操作技能，AI本身沒有任何人類的身體承壓極限，更不會有心理上面的任何波動，可以說飛機(jī)的承壓極限就是AI的行動限制極限，因此，AI系統(tǒng)可以讓戰(zhàn)斗機(jī)做出人類難以完成的極限動作和反應(yīng)速度。
有人分析認(rèn)為，5比0的結(jié)果其實(shí)沒有真正顯示出AI的實(shí)力，而那些被Heron打敗還沒來得及跟人類飛行員較量的AI飛行員算法系統(tǒng)，其實(shí)也都可能戰(zhàn)勝頂尖的人類飛行員。
一方面所有參賽隊(duì)伍所使用的人工智能算法和工具并無本質(zhì)差距，都只是采用不同的思路和方法來解決仿真模擬環(huán)境中視距內(nèi)空戰(zhàn)問題；另一方面，這些AI飛行員系統(tǒng)都經(jīng)歷了快速的迭代訓(xùn)練，進(jìn)步神速。以奪冠的Heron為例，從去年底參賽到今年8月，Heron在經(jīng)過至少40億次仿真訓(xùn)練后，已經(jīng)相當(dāng)于擁有30年的F-16駕駛經(jīng)驗(yàn)，雖然之前一直是模擬的是F-15戰(zhàn)機(jī)，但在比賽前很短時間就能駕馭F-16戰(zhàn)機(jī)，輕松擊敗F-16的王牌飛行員。
不過也有專家指出，這一次人機(jī)大戰(zhàn)是在有限場景下的模擬對抗，其場景只是簡單的一對一視距內(nèi)項(xiàng)目，相比真實(shí)的空戰(zhàn)場景來說復(fù)雜度要低出幾個數(shù)量級。此外，相比AlphaGo圍棋、星際爭霸、Dota2等人機(jī)對戰(zhàn)相比，“阿爾法狗斗”在游戲復(fù)雜度、信息可觀測性和反應(yīng)速度等方面所展現(xiàn)出的難度和特殊性還并不算突出。因此，在真實(shí)的人機(jī)對抗場景中，AI還不一定能夠完勝人類。
不過，AI戰(zhàn)斗機(jī)的技術(shù)方向和戰(zhàn)略意義已經(jīng)凸顯。我們需要進(jìn)一步看下美國國防部是如何看待這一技術(shù)方向的。
美國國防部的AI藍(lán)圖
對于美國已經(jīng)納入時間表的第六代戰(zhàn)斗機(jī)，雖然沒有詳細(xì)的技術(shù)標(biāo)準(zhǔn)透露出來，但是人工智能的駕駛技術(shù)在新一代戰(zhàn)機(jī)上的應(yīng)用已經(jīng)是不爭的事實(shí)。
根據(jù)美國國防部DARPA的ACE計(jì)劃，這次的空戰(zhàn)對抗推進(jìn)空戰(zhàn)自主化的最佳切入點(diǎn)，這一項(xiàng)目可以逐步提高飛行員團(tuán)體對人工智能的信任程度，并完成飛行員角色從單純飛行器操縱者到戰(zhàn)場指揮官的轉(zhuǎn)變，使得AI控制的無人機(jī)可以和人類駕駛的戰(zhàn)機(jī)一起編隊(duì)飛行，為人類戰(zhàn)機(jī)提供自主化協(xié)同和戰(zhàn)斗輔助。
ACE更進(jìn)一步的計(jì)劃是，AI戰(zhàn)機(jī)也將完成空戰(zhàn)算法從仿真模擬到全尺寸實(shí)戰(zhàn)，從布局到全局行為的躍遷，推動其最終“馬賽克戰(zhàn)”的實(shí)現(xiàn)提供有力支撐。
據(jù)預(yù)測，第六代戰(zhàn)斗機(jī)仍然會設(shè)置飛行員駕駛艙，也就是還是會由人類飛行員為主導(dǎo)，人工智能駕駛技術(shù)進(jìn)行輔助。但預(yù)計(jì)屆時人工智能駕駛系統(tǒng)能夠全程接管空戰(zhàn)操作，人類只需擔(dān)當(dāng)最終攻擊命令的下達(dá)即可。
當(dāng)然，這一界限很可能輕易突破，由于人工智能有更好的判斷標(biāo)準(zhǔn)和反應(yīng)速度，那么大概率飛行員也會授權(quán)人工智能自行攻擊。而進(jìn)一步的情況是，如果戰(zhàn)斗機(jī)想要發(fā)揮全部戰(zhàn)斗性能，那就可能不再需要飛行員出現(xiàn)在駕駛艙中，最多只需要遠(yuǎn)程監(jiān)控而已。最后的底線是，人類飛行員或者指揮官能夠有比人工智能戰(zhàn)機(jī)更高的權(quán)限來決定停止攻擊。
而這些技術(shù)推進(jìn)都要看美國軍方對于人工智能戰(zhàn)機(jī)或者其他武器的界定。由于AI武器系統(tǒng)存在著根本性的倫理道德挑戰(zhàn)，美國國防部一直聲稱不會“賦予人工智能執(zhí)行殺人命令的能力”，而是更愿意推進(jìn)其在情報分析方面的應(yīng)用開發(fā)。但是就如剛剛我們所討論的，戳破這一層窗戶紙只需要輕輕地往前一小步。
根據(jù)美國國防部近幾年推出的一系列政策文件來看，美國早已在倡導(dǎo)通過投資自主性、人工智能和機(jī)器學(xué)習(xí)等技術(shù)以獲得具有競爭力的軍事優(yōu)勢，并且國防部一直在把這些政策轉(zhuǎn)化為具體的行動，從觀念、組織和技術(shù)上破除發(fā)展人工智能的阻礙。
上個月26日，美國國會研究服務(wù)處發(fā)布的《人工智能與國家安全》報告顯示，美國國防部正在考慮人工智能在包括情報、監(jiān)視與偵察（ISR）、后勤、網(wǎng)絡(luò)空間作戰(zhàn)、信息戰(zhàn)、指揮與控制、半自主和自主載具，以及殺傷性自主武器系統(tǒng)上面的多種不同應(yīng)用。
從這一信息來看，美國已經(jīng)在致力于將“人工智能技術(shù)帶上戰(zhàn)場”。而這一報告連同ACE計(jì)劃在AI戰(zhàn)機(jī)上面的進(jìn)程，無疑不在傳遞明確的信號，那就是AI技術(shù)為主導(dǎo)的軍備競賽的潘多拉盒子終究會被打開。
AI軍備競賽的囚徒困境
在多年前，AI領(lǐng)域的學(xué)術(shù)界和企業(yè)界已經(jīng)意識到AI技術(shù)既能造福于人類，又可能會給人類帶來巨大的威脅，其中最主要的一大威脅就是AI可以用于致命戰(zhàn)爭武器的研發(fā)上面。
2018年，在瑞典舉行的2018國際人工智能聯(lián)合會議上，包括埃隆•馬斯克（Elon Musk）和Alphabet旗下人工智能子公司DeepMind的三位聯(lián)合創(chuàng)始人在內(nèi)的科技大佬簽署了一份協(xié)議，承諾不會發(fā)展致命的人工智能武器系統(tǒng)。這一協(xié)議是由一個名為“生命未來研究所”的研究機(jī)構(gòu)起草，當(dāng)時據(jù)稱已經(jīng)有超過2400人、160家公司和組織簽署了這份協(xié)議，承諾他們將既不參與也不支持開發(fā)、制造、交易或使用致命自主武器，簽署方還呼吁各國政府通過法律禁止此類武器。
顯然，這一愿景太過理想化。首先是人工智能技術(shù)實(shí)在“太香”，可以用于圍棋對弈、游戲?qū)?zhàn)的深度強(qiáng)化學(xué)習(xí)難道不能用于任務(wù)更簡單的軍事對戰(zhàn)嗎？從實(shí)際表現(xiàn)看堪稱完美。其次是對于那些追求國家利益至上和軍事領(lǐng)先的政府來說，放著如此誘人的技術(shù)哪有不搶先占領(lǐng)制高點(diǎn)的道理呢？
盡管一些科技公司在參與政府的軍事項(xiàng)目的時候會受到一些員工或者外界的批評和抵制，但是誰又能真正舍得如此豐厚的巨額訂單呢？另外，即使這些大公司不做，也有很多的創(chuàng)業(yè)公司和軍火制造商背景的企業(yè)也會參與其中。
我們都知道人類所面臨的“黑暗森林”體系以及由于相互猜忌而導(dǎo)致的“囚徒困境”，使得無論是一個國家還是一家企業(yè)都會很自然地把對手當(dāng)做假想敵，把發(fā)展更先進(jìn)武器當(dāng)做壓制對手的終極辦法，直到上個世紀(jì)全球陷入到美蘇爭霸的核戰(zhàn)爭危機(jī)當(dāng)中，而如今則可能是人工智能技術(shù)所帶來的大規(guī)模自動化武器和戰(zhàn)爭當(dāng)中。
對于未來的人工智能戰(zhàn)爭，未來可能有兩種極端的設(shè)想。一種是極為樂觀的猜想。由于人工智能武器的自動化程度，人類不必親自參與到現(xiàn)實(shí)的戰(zhàn)場沖突當(dāng)中。所有的戰(zhàn)爭可能都是在無人參與的條件下進(jìn)行。這一場景類似于春秋時墨子入楚，與公輸班現(xiàn)場演示攻防戰(zhàn)一樣，不用真正經(jīng)歷戰(zhàn)爭的殘酷，在“虛擬戰(zhàn)場”或者無人煙的海洋、荒漠就把戰(zhàn)爭勝負(fù)決出。當(dāng)然，這種結(jié)果說說就好。另一種就是悲觀的猜想。人工智能武器不僅被這些經(jīng)濟(jì)軍事大國掌握，也成為眾多動亂國家、非法武裝掌握的武器，一些非常規(guī)性殺傷性武器和自動化武器被濫用，整個世界將陷入到更加危險的沖突和戰(zhàn)爭境地。而這很可能由于地緣政治的惡化而出現(xiàn)。
正如歷史一再重演的一樣，戰(zhàn)爭是人類代價最大的集體行為，又是最容易應(yīng)用先進(jìn)科技的領(lǐng)域。盡管大多數(shù)人已經(jīng)從歷史經(jīng)驗(yàn)中吸取過教訓(xùn)，也能預(yù)見到人工智能武器的危險后果，但這一次人工智能技術(shù)浪潮將不可避免地應(yīng)用在未來軍事的方方面面。
作為生于和平年代的我們，即便對這一場加速到來的AI的軍備競賽沒有非常直觀的或好或壞的認(rèn)知，但我們?nèi)匀恍枰獙@一趨勢保持警惕，并能希望看到對世界和平發(fā)展富有責(zé)任的大國們能在AI的軍備競賽上保持理性，并能對AI武器的邊界和范圍達(dá)成共識。
從《三體》的啟示來看，也許只有出現(xiàn)威脅整個人類的敵人出現(xiàn)，我們才可能團(tuán)結(jié)起來一致對外。那么，未來我們“努力”尋找外星人，讓AI去征服太空，這個目標(biāo)它不香嗎？
