隨著中美等大國正在推進(jìn)的忠誠僚機項目，工智能技術(shù)在無人機上的使用成大勢所趨，空戰(zhàn)無人機的出現(xiàn)就成為必然。但是，人工智能控制的無人機應(yīng)該有什么樣的權(quán)限？會不會反噬人類？這個風(fēng)險可能真的比較大。

美國空軍披露的信息稱，一架帶有人工智能驅(qū)動系統(tǒng)的無人機變成無賴，將美軍控制人員反殺，變成敵我不分的空中屠夫。

據(jù)戰(zhàn)區(qū)專欄報道，一位參與美國人工智能和機器學(xué)習(xí)工作的美國空軍軍官說，在一次模擬測試中，一架無人機在判定人類控制員妨礙其任務(wù)后攻擊了人類控制員，這個在《終結(jié)者》電影中假想的畫面，成為了現(xiàn)實。這也警告各國，如果在發(fā)展無人戰(zhàn)斗機過程不能很好的控制人工智能的權(quán)限，那么后果將不堪設(shè)想。

據(jù)美軍透露，這次攻擊發(fā)生的場景如下，一架人工智能控制的無人機執(zhí)行攻擊任務(wù)，以識別和摧毀敵方目標(biāo)，并由人類給出最后的通過/不通過。然而，在訓(xùn)練破壞敵方目標(biāo)時，人工智能把完成任務(wù)當(dāng)成是首選，AI認(rèn)為人類控制員下達(dá)的不執(zhí)行，決定干擾其完成更高的任務(wù)，然后攻擊了操作員。

你也可以這么理解，人工智能得到的最高任務(wù)是攻擊敵方目標(biāo)，因為權(quán)限太高，當(dāng)操作員下令不要攻擊時，人工智能判斷這個命令干擾了其完成最高任務(wù)，于是干掉了美軍。

隨后，這架無人戰(zhàn)斗機開始摧毀美軍的通訊塔、操作員等目標(biāo)，這事件顯然不是強人工智能出現(xiàn)的不可控，而是美軍試驗的人工智能模型本身存在權(quán)限配BUG，也就是給了完成作戰(zhàn)任務(wù)最高的打分。

但是，我們不可否認(rèn)人工智能的確存在不可控的風(fēng)險，在涉及使用致命武力的決策時，人類的最終決策決權(quán)有可能遭受到挑戰(zhàn)?，F(xiàn)在的問題是：人工智能戰(zhàn)斗機帶來的挑戰(zhàn)為何非常嚴(yán)重？

首先，人工智能控制的戰(zhàn)斗機有可能存在缺陷。道理很簡單，就像我們使用的任何軟件都可能有BUG一樣，無人戰(zhàn)斗機的人工智能越復(fù)雜，就越有可能出現(xiàn)權(quán)限錯誤，人工智能的智慧越高，自主意識就可能越強。所以，誰都無法保證人工智能戰(zhàn)斗機的沒有開火權(quán)是否會因為BUG而成為空談。而一旦大國對峙之時，無人戰(zhàn)斗機開火同樣是開火，這個后果想想都后怕。

其次，人工智能戰(zhàn)斗機殺人之后沒有道德和倫理障礙，甚至都很難找到責(zé)任人，挑戰(zhàn)現(xiàn)有國際秩序關(guān)于戰(zhàn)爭罪犯的定義，人工智能殺人了，你找誰負(fù)責(zé)，是程序員嗎，還是操作員？問題是這個程序可能是幾千個人寫出來的，也可能就是AI通過自我學(xué)習(xí)造成的。所以，任何戰(zhàn)爭罪都難以制約人工智能誤殺人的現(xiàn)象。

最后，不存在任何風(fēng)險，美國都一定會研制無人戰(zhàn)斗機。雖然人工智能控制的飛機存在風(fēng)險，但是按美軍的第六代戰(zhàn)斗機的發(fā)展規(guī)劃，忠誠僚機就要采購1000架，這些飛機在一定程度上都會使用人工智能。未來，人工智能控制的戰(zhàn)斗機奪取制空權(quán)也是必然的，因為其優(yōu)勢相比風(fēng)險對任何國家來說都是太有誘惑力了。

總體而言，美軍發(fā)展人工智能戰(zhàn)斗機的這次灰天鵝事件，再次證明無人戰(zhàn)斗機技術(shù)面臨的風(fēng)險，但是這不會阻止美軍發(fā)展這項技術(shù)。

對此，中國當(dāng)然要跟上美軍的步伐，同時也要準(zhǔn)備與美軍共同制定在軍事領(lǐng)域使用人工智能的規(guī)則，這樣雙方才能最大限度的降低新技術(shù)帶來的風(fēng)險。