軍事AI化正重塑未來(lái)戰(zhàn)爭(zhēng)圖景
本報(bào)記者 張 強(qiáng)
近日，谷歌3100名員工聯(lián)名發(fā)出公開(kāi)信，要求谷歌退出美國(guó)國(guó)防部人工智能軍事項(xiàng)目——Maven計(jì)劃，并承諾永不參與打造任何類(lèi)型的戰(zhàn)爭(zhēng)科技。
隨后，4月9日，聯(lián)合國(guó)《特定常規(guī)武器公約》政府專(zhuān)家小組在日內(nèi)瓦召開(kāi)會(huì)議，專(zhuān)項(xiàng)討論“殺人機(jī)器人”可能帶來(lái)的影響。那么，以人工智能為基礎(chǔ)的軍事系統(tǒng)，能否代替人類(lèi)做出恰當(dāng)?shù)能娛聸Q策？人工智能與軍事真的不能共存嗎？
引領(lǐng)了哪些軍事變革——無(wú)人化智能化走向現(xiàn)實(shí)
“人工智能在軍事領(lǐng)域的應(yīng)用廣泛，包括軍用人工智能機(jī)器翻譯系統(tǒng)、智能電子戰(zhàn)系統(tǒng)、自動(dòng)情報(bào)與圖像識(shí)別系統(tǒng)、人工智能武器等等。”中國(guó)指揮與控制學(xué)會(huì)青工委副主任、國(guó)防科技大學(xué)軍事專(zhuān)家石海明對(duì)科技日?qǐng)?bào)記者表示，“在遙遠(yuǎn)的未來(lái)，人工智能也許會(huì)像一些科幻電影中描繪的那樣，使后人類(lèi)戰(zhàn)爭(zhēng)從科幻變成現(xiàn)實(shí)。”
人工智能在某些軍事領(lǐng)域已表達(dá)出超越人類(lèi)的能力。在2016年舉行的一次模擬空戰(zhàn)對(duì)抗比賽中，人工智能系統(tǒng)通過(guò)靈活、迅捷的動(dòng)作擊敗了具備更強(qiáng)武器系統(tǒng)的退役戰(zhàn)斗機(jī)飛行員，就像一個(gè)象棋大師輸給了電腦。
“目前在武器裝備和指揮控制方面，人工智能主要集中在陸地、海洋、太空等各類(lèi)作戰(zhàn)機(jī)器人的研發(fā)應(yīng)用和各類(lèi)智能炸彈的研發(fā)領(lǐng)域。隨著數(shù)據(jù)挖掘技術(shù)、大規(guī)模并行算法及人工智能技術(shù)的不斷完善并廣泛應(yīng)用在軍事上，情報(bào)、決策與作戰(zhàn)一體化將取得快速進(jìn)展。”石海明說(shuō)。實(shí)際上，能在無(wú)人控制的情況下搜索并消除目標(biāo)的自主武器就是典型應(yīng)用，也是當(dāng)前人工智能軍事化的最主要應(yīng)用。
石海明介紹，能夠自主運(yùn)作的軍用機(jī)器人被歸為致命性自主武器系統(tǒng)(LAWS)，目前各國(guó)發(fā)展的無(wú)人飛行器、無(wú)人地面車(chē)輛、無(wú)人水面艇等能夠自主運(yùn)作的武器系統(tǒng)在某種程度上都屬于LAWS的范疇。這些武器裝備體現(xiàn)出了較高的應(yīng)用價(jià)值。
“具有人工智能的軍事機(jī)器人將改變未來(lái)戰(zhàn)爭(zhēng)形態(tài)，促進(jìn)軍事理論、體制編制、作戰(zhàn)人員、戰(zhàn)法戰(zhàn)術(shù)等多方面的變革，使未來(lái)戰(zhàn)爭(zhēng)呈現(xiàn)出無(wú)人化和智能化的特點(diǎn)。”石海明指出。
是否有局限性——復(fù)雜環(huán)境程序中容易失控
2017年人工智能?chē)?guó)際會(huì)議上，特斯拉首席執(zhí)行官馬斯克、蘋(píng)果聯(lián)合創(chuàng)始人沃茲、研發(fā)“阿爾法圍棋”的深度思維公司哈薩比斯等人簽署公開(kāi)信，呼吁聯(lián)合國(guó)應(yīng)像禁止生化武器一樣，禁止在戰(zhàn)爭(zhēng)中使用致命的自主武器和“殺手機(jī)器人”?；艚鹨苍赋觯撾x人類(lèi)控制之下的機(jī)器很難被阻止住。
石海明認(rèn)為：“由于人工智能技術(shù)的發(fā)展局限，機(jī)器人可能將在環(huán)境或執(zhí)行程序復(fù)雜的情況中出現(xiàn)失控現(xiàn)象，比如在單獨(dú)執(zhí)行作戰(zhàn)任務(wù)或人機(jī)深度交流時(shí)。”
2007年10月，美軍第三機(jī)步師一部帶著3臺(tái)“利劍”機(jī)器人進(jìn)攻一個(gè)反美武裝盤(pán)踞的據(jù)點(diǎn)時(shí)，由于沒(méi)有及時(shí)更換軟件，其中一臺(tái)“利劍”竟把槍口瞄準(zhǔn)美軍操作者，而且無(wú)論操作員如何發(fā)出“行動(dòng)取消”的指令，失控的“利劍”就是停不下來(lái)，直至用火箭筒把它炸翻才化險(xiǎn)為夷。
但石海明還是對(duì)人工智能未來(lái)在軍事上的應(yīng)用表達(dá)了謹(jǐn)慎的樂(lè)觀。他認(rèn)為，“這樣的思潮在人類(lèi)歷史上的技術(shù)革命時(shí)期都曾出現(xiàn)過(guò)，比如工業(yè)革命時(shí)期的盧德運(yùn)動(dòng)。這一現(xiàn)象的本質(zhì)原因在于技術(shù)異化對(duì)人類(lèi)的威脅。目前來(lái)看，人工智能在軍事領(lǐng)域的應(yīng)用潮流勢(shì)不可擋，在可預(yù)見(jiàn)的時(shí)期內(nèi)，人工智能將在情報(bào)偵察、后勤保障、無(wú)人作戰(zhàn)系統(tǒng)等領(lǐng)域發(fā)揮重要作用。”
如何降低負(fù)面影響——人機(jī)結(jié)合、以人為主
隨著越來(lái)越多的國(guó)家投入到軍用機(jī)器人的研究與開(kāi)發(fā)中去，世界已在不知不覺(jué)中滑進(jìn)了一場(chǎng)機(jī)器人軍備競(jìng)賽。
毋庸置疑，軍事機(jī)器人相比于士兵，主要在功能、體能、效能方面具有優(yōu)勢(shì)。軍事機(jī)器人可以同時(shí)承擔(dān)多項(xiàng)復(fù)雜任務(wù)，作戰(zhàn)可以更加持久，在程序設(shè)定完備后能夠高效精準(zhǔn)達(dá)成目標(biāo)，失誤率較低。特別是完全自主機(jī)器人具有持續(xù)作戰(zhàn)時(shí)間長(zhǎng)、反應(yīng)能力快、生存能力強(qiáng)等優(yōu)勢(shì)，將會(huì)進(jìn)一步增加戰(zhàn)爭(zhēng)的強(qiáng)度，與人類(lèi)戰(zhàn)士相比具有巨大的優(yōu)勢(shì)。
然而，有關(guān)戰(zhàn)爭(zhēng)責(zé)任的倫理問(wèn)題就這樣出現(xiàn)了，參戰(zhàn)的自主機(jī)器人到底是不是戰(zhàn)斗員？又應(yīng)當(dāng)承擔(dān)何種戰(zhàn)爭(zhēng)的責(zé)任？2008年，美軍海軍研究辦公室發(fā)表的一份報(bào)告認(rèn)為，用于戰(zhàn)爭(zhēng)的自主機(jī)器人無(wú)法承擔(dān)法律責(zé)任。
石海明指出，“想要盡可能降低人工智能的負(fù)面影響，首先要堅(jiān)持人機(jī)結(jié)合、以人為主的原則，人類(lèi)應(yīng)當(dāng)保證對(duì)軍事機(jī)器人的控制權(quán)，制定應(yīng)對(duì)意外事件的應(yīng)急機(jī)制，建立防范機(jī)器人失控的后臺(tái)程序。另外，應(yīng)當(dāng)加強(qiáng)人工智能的技術(shù)預(yù)測(cè)與評(píng)估，在充分試驗(yàn)與分析的基礎(chǔ)上逐步推進(jìn)人工智能技術(shù)的軍事應(yīng)用。”
