大概上周的時(shí)候吧，我在知乎上面刷到一個(gè)問題：

https://www.zhihu.com/question/566400168/answer/2776799525

研究人員利用對抗攻擊方法，使菜鳥級圍棋程序成功打敗了世界最強(qiáng)圍棋 AI，什么是對抗攻擊方法？

當(dāng)時(shí)我和大多數(shù)棋友均表示不屑一顧，因?yàn)樗麄兯^的“戰(zhàn)勝”katago的方法居然是往katago的空里亂丟幾個(gè)殘子，然后停招，kata也停招，自動(dòng)點(diǎn)目把幾個(gè)殘子算活的，就這么賴贏了。

這不是純純的搞笑嗎？

沒想到這項(xiàng)研究后面還能有反轉(zhuǎn)。昨天我刷到碼農(nóng)高天的視頻，就是這盤文章的封面視頻，介紹了這項(xiàng)工作的一個(gè)重要更新：

對抗AI已經(jīng)能通過合法的方式，穩(wěn)定觸發(fā)katago的bug，然后合法地戰(zhàn)勝katago。

而且那位up也用自己的katago進(jìn)行測試，果然在低算力時(shí)也在相同的地方翻車了。

這意味著研究者真的利用對抗攻擊找到了kata本身的bug，而不是規(guī)則上的漏洞！

所以kata緣何出現(xiàn)這樣的弱點(diǎn)呢？我們看一下幾個(gè)公開的對抗AI對弈棋譜

無一例外，katago都是在近乎穩(wěn)贏的情況下，突然不知為何犯病沒數(shù)清楚氣，然后被一堆死棋給反殺了。

我曾經(jīng)在評論區(qū)猜測，這些局面出現(xiàn)問題可能是因?yàn)榫置嫣^低級，以至于只有在katago自我訓(xùn)練的極早期才會(huì)出現(xiàn)。因?yàn)閗atago自我對弈的時(shí)候，應(yīng)該是勝率低過一定程度就投了，后面不再亂攪，也就導(dǎo)致這種攪局它真的缺乏相關(guān)訓(xùn)練。(就像我偶爾炸魚，因?yàn)閷κ謱?shí)在比我差太多，通常是威脅不到我的，我也就不怎么注意自己的弱點(diǎn)，導(dǎo)致偶爾也被反殺過。)

但是仔細(xì)觀察幾個(gè)反殺局面我發(fā)現(xiàn)我的判斷存在問題，這種能系統(tǒng)性觸發(fā)bug的局面，kata確實(shí)缺乏相關(guān)訓(xùn)練，但是并不是局面太過低級，而是太過稀有而高級了。

大家再仔細(xì)看上面幾個(gè)反殺的局面，katago被反殺的大龍都有一個(gè)共同特點(diǎn)：形狀為聯(lián)通的一個(gè)圈，內(nèi)部有對抗AI的一塊局部不活但還有幾口氣的棋。

不知道這個(gè)局面有沒有讓大家聯(lián)想到什么：盤龍眼。盤龍眼是圍棋中極其稀有的一種活棋，看似一塊棋只有兩個(gè)假眼，卻因?yàn)橥鈬穆?lián)通而使得兩個(gè)“假眼”同時(shí)保持為禁入點(diǎn)，從而整塊是活棋。

盤龍眼多稀有呢？有記載的人類正式比賽中，只有日本棋手一力遼對上野愛咲美下出過一次：

(這個(gè)局面，右邊對殺是連環(huán)劫黑殺白，但白棋利用這個(gè)連環(huán)劫可以獲得無限的劫財(cái)，打贏A位的劫爭。此后白大龍只有一只真眼，卻因?yàn)檫B通形成盤龍眼而凈活，黑目數(shù)不夠認(rèn)輸。)

有記載的人類比賽對局只出現(xiàn)過一次類似的局面，可見其稀有程度。作為對比，同樣因極為罕見而聞名的多劫循環(huán)，僅新世紀(jì)以來就多次出現(xiàn)（羅洗河vs崔哲瀚，古力vs李世石，江維杰vs李維清，包括本屆農(nóng)心杯姜東潤vs柁嘉熹）

所以我們有理由相信，類似盤龍眼的這種連通一圈的里面還有對手的棋的情況，哪怕是katago自我訓(xùn)練的無數(shù)盤里，依舊極少出現(xiàn)。

再看前面幾個(gè)kata被反殺的棋局，都出現(xiàn)了類似盤龍眼這種連通形狀的中間有對方的棋的情況。這種局面可能真的就進(jìn)入了katago的訓(xùn)練盲區(qū)。

然而這些局面比盤龍眼有些不同：

第一，盤龍眼雖然外圍連通，但也要留兩個(gè)洞，松出兩口氣；而kata翻車的局面氣都是緊住的。這會(huì)把kata置于更危險(xiǎn)的位置。

第二，被圍在圈中間的白棋雖然有幾口氣，但無一例外是局部凈死，更加迷惑kata的判斷。外部包圍的白棋也基本上到處破破爛爛，除了剩幾口氣基本也都是死的。

于是，從katago的角度看，如果中間的白棋是死的，自己的棋又這么連一圈，怎么看這個(gè)圈也可以算一只真眼了。(事實(shí)上，盤龍眼的外圍連通一圈，拓?fù)鋵W(xué)的角度也算一個(gè)巨大的真眼了，只是中間活了一塊對手的棋，使得這個(gè)形狀比較有迷惑性。)

如果這個(gè)圈看作真眼，那這塊黑棋怎么看也鐵活了。一旦katago判斷這塊黑棋是鐵活棋，那外面那些破破爛爛的一圈也就基本被認(rèn)定為死亡。這種局面下，katago在這塊區(qū)域只會(huì)分配極少的算力（甚至可能幾乎沒算），也就沒注意到自己氣緊的缺陷。

從這項(xiàng)研究，我們或許可以同時(shí)看到圍棋AI的先進(jìn)性與局限性：

首先katago一定以某種形式理解了“眼”的概念，否則它不會(huì)對自己大龍的死活如此自信，這是比較先進(jìn)的一面。

但另一方面，它的局限性，在于當(dāng)一些極端少見的特例出現(xiàn)，人類稍加思考就可以明白，它卻轉(zhuǎn)不過彎來。