科幻電影《終結(jié)者》中，人類和機(jī)器人的戰(zhàn)爭令人印象深刻。美國國防部的一名官員近日對(duì)媒體表示，國防部目前存在一種討論，可能會(huì)最終導(dǎo)致機(jī)器自主決定使用武器。聯(lián)想到AlphaGo大敗李世石的“人機(jī)大戰(zhàn)”，很多人不禁擔(dān)憂——隨著人工智能的不斷發(fā)展，集人工智能之大成的軍事機(jī)器人是否會(huì)對(duì)未來戰(zhàn)爭形式和戰(zhàn)場勝負(fù)產(chǎn)生重大影響？
“完全自主機(jī)器人具有持續(xù)作戰(zhàn)時(shí)間長、反應(yīng)能力快、生存能力強(qiáng)等優(yōu)勢，將會(huì)進(jìn)一步增加戰(zhàn)爭的烈度與強(qiáng)度，對(duì)人類戰(zhàn)士具有巨大的不對(duì)稱優(yōu)勢，最終會(huì)將戰(zhàn)爭拉入無人戰(zhàn)爭的領(lǐng)域。”國防科技大學(xué)軍事專家曾華鋒教授告訴科技日?qǐng)?bào)記者，“不過，現(xiàn)階段還沒有能夠?qū)崿F(xiàn)完全自主攻擊的作戰(zhàn)機(jī)器人或者無人裝備。在美軍‘第三次抵消戰(zhàn)略’中，盡管也提出要強(qiáng)化美國在無人作戰(zhàn)中的優(yōu)勢，但從最前沿的技術(shù)看，距離完全自主攻擊的目標(biāo)還很遠(yuǎn)。對(duì)此，我們沒有必要過分擔(dān)憂。”
毋庸置疑，人工智能正越來越多地走上戰(zhàn)場，推動(dòng)著戰(zhàn)爭形態(tài)從信息化戰(zhàn)爭向智能化戰(zhàn)爭加速演進(jìn)。目前，人類遙控指揮的無人系統(tǒng)已經(jīng)投入戰(zhàn)場，有了人類的控制，無人系統(tǒng)無疑會(huì)更加可靠。但是隨著科技的發(fā)展，人工智能在某些領(lǐng)域超越人類已是不爭的事實(shí)。從科技的角度來看，完全脫離人類控制而實(shí)現(xiàn)自主攻擊似乎是人工智能在戰(zhàn)爭上的終極形式。
國防科技大學(xué)石海明博士告訴記者，相比人類，機(jī)器人確實(shí)具有巨大的優(yōu)勢，然而其劣勢也是顯而易見的，主要集中在倫理的爭議、發(fā)展不可控的風(fēng)險(xiǎn)等等。比如，在2006年至2013年美軍于巴基斯坦發(fā)動(dòng)的反恐戰(zhàn)爭中，無人機(jī)殺死2514名武裝人員的同時(shí)也“誤殺”了153名平民。由于無人化作戰(zhàn)平臺(tái)自身的不可靠性，相關(guān)作戰(zhàn)行動(dòng)造成了一種事實(shí)上的武力濫用行為，對(duì)相關(guān)作戰(zhàn)倫理道德規(guī)約產(chǎn)生了沖擊。
“要實(shí)現(xiàn)機(jī)器人的自主攻擊，就必須減少其負(fù)面影響。這需要克服很多技術(shù)難題，如自主敵我識(shí)別、自主分析判斷和決策能力的實(shí)現(xiàn)，包括了機(jī)器視覺、數(shù)據(jù)挖掘、探索推理等人工智能研究領(lǐng)域分支。這顯然不是短時(shí)間內(nèi)可以實(shí)現(xiàn)的。”石海明說。
美軍新版無人兵器發(fā)展路線圖透露，美國將在未來10年內(nèi)投資100多億美元用于無人機(jī)的研發(fā)與采購，而10年后美國國防部每年用于無人機(jī)研發(fā)的資金將高達(dá)40億美元。
對(duì)此，曾華鋒指出，美國在人工智能和機(jī)器學(xué)習(xí)技術(shù)方面領(lǐng)先全球。從現(xiàn)在的發(fā)展趨勢來看，這些技術(shù)將會(huì)極大提高無人系統(tǒng)的自主性，減少對(duì)存在隱患的數(shù)據(jù)鏈路的依賴。如果擴(kuò)大無人作戰(zhàn)的規(guī)模，那么美國將能夠利用其實(shí)踐經(jīng)驗(yàn)、與自動(dòng)化相關(guān)的技術(shù)能力，以及在復(fù)雜系統(tǒng)工程與集成方面的牢固優(yōu)勢，構(gòu)成全球監(jiān)視與打擊網(wǎng)絡(luò)。這將進(jìn)一步推進(jìn)無人化戰(zhàn)爭的進(jìn)程。
很多科幻小說預(yù)言，高度發(fā)展的機(jī)器人會(huì)給人類帶來無盡的災(zāi)難，人工智能帶給人類的絕不僅僅是福音。
對(duì)此，曾華鋒表示贊同。他分析認(rèn)為，“一方面，正如部分科學(xué)家擔(dān)憂的一樣，假如人工智能的發(fā)展進(jìn)入了強(qiáng)人工智能階段，人工智能可以通過不斷的自我學(xué)習(xí)與發(fā)展產(chǎn)生出主觀情緒與欲望。那么，當(dāng)有一天人工智能的發(fā)展與人類自身利益發(fā)生沖突時(shí)，其后果將難以預(yù)料。另一方面，假定限制發(fā)展強(qiáng)人工智能，始終維持在弱人工智能的階段，其能力的不斷增長也將會(huì)造成大量人類失業(yè)，屆時(shí)人類的發(fā)展將面臨很多問題。因此，這種技術(shù)如果應(yīng)用到軍事機(jī)器人上很有可能對(duì)人類造成巨大災(zāi)難。這些可能性必須認(rèn)真考慮，否則后果或許將難以預(yù)測。”
