警惕AI軍事化應(yīng)用風(fēng)險(xiǎn)

　　警惕AI軍事化應(yīng)用風(fēng)險(xiǎn)

　　■陸欣宇

　　從全球范圍看，當(dāng)前人工智能(即AI)正向軍事領(lǐng)域不斷延伸，軍事應(yīng)用的級(jí)聯(lián)效應(yīng)逐漸顯現(xiàn)，其在指揮決策、情報(bào)處理、網(wǎng)絡(luò)攻防、戰(zhàn)場(chǎng)保障等方面業(yè)已展現(xiàn)出巨大潛力。但與此同時(shí)，人工智能軍事化應(yīng)用也將為全球安全帶來(lái)諸多風(fēng)險(xiǎn)，需要人們格外關(guān)注。

　　容易引發(fā)軍備競(jìng)賽。對(duì)于人工智能的軍事化進(jìn)程而言，不論一國(guó)發(fā)展人工智能軍事應(yīng)用的意圖如何，因在技術(shù)發(fā)展上存在可見(jiàn)差距，為避免人工智能時(shí)代的“不對(duì)稱(chēng)戰(zhàn)爭(zhēng)”，后發(fā)國(guó)家將感到威脅而加速自身人工智能軍備研發(fā)和部署。先發(fā)國(guó)家為保持軍事優(yōu)勢(shì)將對(duì)其人工智能軍事應(yīng)用的戰(zhàn)略部署高度保密，引發(fā)猜忌和戒備，使國(guó)家間戰(zhàn)略互信迅速下降，增加對(duì)抗和沖突風(fēng)險(xiǎn)。與此同時(shí)，為占據(jù)發(fā)展優(yōu)勢(shì)，各國(guó)將不斷加大對(duì)人工智能軍事技術(shù)研發(fā)、專(zhuān)業(yè)人才培養(yǎng)、基礎(chǔ)設(shè)施建設(shè)等方面的投入。人工智能專(zhuān)家斯圖爾特·羅素曾估算現(xiàn)階段全球在通用人工智能研發(fā)上的投入已經(jīng)是曼哈頓計(jì)劃的10倍，是有史以來(lái)建造的最大、最昂貴的科學(xué)儀器——大型強(qiáng)子對(duì)撞機(jī)投入的100倍。

　　可能降低戰(zhàn)爭(zhēng)門(mén)檻。就武器裝備而言，相比傳統(tǒng)武器裝備，人工智能驅(qū)動(dòng)的武器系統(tǒng)不需要操作人員經(jīng)過(guò)長(zhǎng)時(shí)間專(zhuān)業(yè)訓(xùn)練，也不需要其具有豐富經(jīng)驗(yàn)，更多作戰(zhàn)人員能夠快速上手操作投入戰(zhàn)斗。除此之外，人工智能技術(shù)以其在數(shù)據(jù)分析、仿真模擬、方案設(shè)計(jì)、迭代優(yōu)化等方面的突出優(yōu)勢(shì)，將軍事裝備研發(fā)和部署周期大幅縮短，從而能夠在更短時(shí)間內(nèi)形成戰(zhàn)斗力，降低發(fā)動(dòng)戰(zhàn)爭(zhēng)在裝備準(zhǔn)備上的時(shí)間和資源門(mén)檻。就指揮決策而言，一方面，無(wú)人化的武器裝備和網(wǎng)絡(luò)攻擊手段將大幅度降低一線指戰(zhàn)員傷亡風(fēng)險(xiǎn)和裝備損耗，壓縮殺傷鏈殺傷成本，從而減少?zèng)Q策者發(fā)起戰(zhàn)爭(zhēng)的顧慮和壓力。另一方面，現(xiàn)階段國(guó)際上對(duì)人工智能武器的定義、分類(lèi)、使用范圍和責(zé)任歸屬等關(guān)鍵問(wèn)題尚未形成統(tǒng)一標(biāo)準(zhǔn)，國(guó)際法在人工智能軍事應(yīng)用方面存在大量空白，對(duì)使用人工智能武器發(fā)起戰(zhàn)爭(zhēng)缺乏有效法律約束和懲戒措施。就參與主體而言，傳統(tǒng)意義上軍事力量較弱的國(guó)家也有機(jī)會(huì)通過(guò)引入自主武器系統(tǒng)提升自身戰(zhàn)斗力，打破現(xiàn)階段全球軍事平衡，從而改變軍事力量格局造成沖突風(fēng)險(xiǎn)。

　　放大技術(shù)失控隱患。隨著人工智能軍事化進(jìn)程的推進(jìn)，更多自主武器系統(tǒng)的加入將對(duì)系統(tǒng)同步和協(xié)同性提出更高要求，不同系統(tǒng)因各自計(jì)算邏輯和決策機(jī)制的不同，可能在優(yōu)先級(jí)設(shè)定、介入手段等方面出現(xiàn)沖突，導(dǎo)致作戰(zhàn)系統(tǒng)混亂。此外，高效便利的智能軍事系統(tǒng)可能造成作戰(zhàn)人員對(duì)其過(guò)度依賴(lài)，一旦出現(xiàn)系統(tǒng)故障，將導(dǎo)致整體性癱瘓，操作人員可能無(wú)法接管作戰(zhàn)任務(wù)，甚至全面喪失對(duì)武器裝備的指揮能力，導(dǎo)致軍事行動(dòng)的全面失敗乃至難以預(yù)計(jì)的人道主義災(zāi)難。隨著智能系統(tǒng)獲得的訓(xùn)練數(shù)據(jù)和學(xué)習(xí)案例不斷增加，整體性能逐步提升，但可解釋性或?qū)⒅饾u降低，“算法黑箱”逐步演化為“系統(tǒng)黑箱”，若人工智能自我學(xué)習(xí)和進(jìn)化能力達(dá)到一定程度，突破“技術(shù)奇點(diǎn)”，形成“超級(jí)智能”，自主武器系統(tǒng)或許會(huì)徹底超出人類(lèi)理解和控制范圍。