最近，外國媒體在聯(lián)合國的一份報告中,發(fā)現(xiàn)了一個驚人的事實(shí):自主無人機(jī)可能已經(jīng)在利比亞殺了人,這是人類軍事技術(shù)和AI技術(shù)的一個轉(zhuǎn)折點(diǎn)。

這份聯(lián)合國的報告長達(dá)548頁，發(fā)表于今年3月份，是關(guān)于一年之前，2020年3月在利比亞發(fā)生的一場小規(guī)模軍事沖突的調(diào)查報告。報告稱，土耳其軍事科技公司STM生產(chǎn)的“致命自主武器系統(tǒng)”、Kargu-2型四旋翼無人機(jī)攻擊了利比亞士兵。

一位無人機(jī)專家認(rèn)為：“如果有人在這次自主攻擊中喪生，這很可能是人類歷史上第一例由人工智能控制的自主武器殺人的案例。”行動經(jīng)過是這樣的：“利比亞將軍哈夫塔爾的后勤車隊(duì)和撤退的士兵被自主武器系統(tǒng)追捕并交戰(zhàn)。”Kargu-2是一種“游蕩”無人機(jī)，它可以自主選擇目標(biāo)進(jìn)行偵察或者攻擊。這一系統(tǒng)具有群集協(xié)同能力，可以控制20架無人機(jī)協(xié)同工作。在它飛行和攻擊目標(biāo)時，不需要人來遙控，是一個真正的機(jī)器人，而且是一個可以自主執(zhí)行殺人任務(wù)的機(jī)器人。

我們都知道科幻小說家阿西莫夫定義了機(jī)器人三大定律，最核心的原則就是機(jī)器人不能傷害人類。雖然這不是什么金規(guī)鐵律，但它已經(jīng)在世人腦中形成一種道德標(biāo)準(zhǔn)。全球的武器系統(tǒng)開發(fā)機(jī)構(gòu)一直都沒有違反這個原則。當(dāng)今最強(qiáng)的兩個軍用無人機(jī)研發(fā)和生產(chǎn)強(qiáng)國，中國和美國，目前都沒有違背這個定律。中美目前裝備和出售的所有軍用無人機(jī)在攻擊目標(biāo)時都是遙控的，AI自動目標(biāo)搜索功能只是輔助，遙控操作員是最終決定按下武器發(fā)射鈕的人，一切攻擊都有人在回路中做出判斷和決定。中美堅守的這條道德底線現(xiàn)在被土耳其STM公司輕易突破了。

要知道，土耳其并非AI技術(shù)強(qiáng)國。世界上AI技術(shù)最強(qiáng)的兩國就是中國和美國。無論是看AI相關(guān)專利的數(shù)量，還是自動駕駛技術(shù)最強(qiáng)的公司數(shù)量，還是看自動人臉識別技術(shù)的普及程度，中美兩國都遠(yuǎn)超其他國家。土耳其根本排不上號。

但是我們知道，美國國防部正在大力研制無人機(jī)自主空戰(zhàn)技術(shù)。美國DARPA在2020年就進(jìn)行了無人機(jī)空戰(zhàn)的虛擬比賽。中國的中航技成都飛機(jī)公司也在2020年舉行了類似的比賽。因此，“機(jī)器人殺人”何時在戰(zhàn)場上大規(guī)模出現(xiàn)，只是個時間問題。這是人類無奈的選擇。美國一定是最先大規(guī)模將AI自主攻擊裝備投入戰(zhàn)場的國家。美國陸海空三軍都有大量的無人裝備自主作戰(zhàn)研究計劃。

面對這樣的形勢，中國只能跟隨到底。因?yàn)槲覀円脖仨氂米钕冗M(jìn)的技術(shù)來保衛(wèi)我們國家的安全和利益。利比亞的這次AI自主攻擊事件提醒我們，在戰(zhàn)場上出現(xiàn)大規(guī)模的“機(jī)器人殺人”的場景，已經(jīng)離我們不遠(yuǎn)了。