在與AlphaGO對局之后，李世石用極為顫抖的聲音表示在對局中自己感受到了絕望。李世石是公認(rèn)的勝負(fù)師，他的心理素質(zhì)是非常強(qiáng)大的，非一般職業(yè)棋手可比。從來沒有看見過李世石的情緒如此激動，李世石在AI面前崩潰了。

柯潔在烏鎮(zhèn)與進(jìn)化版的AlphaGO進(jìn)行了三番棋比賽之后，柯潔流下了絕望的淚水?？聺嵳fAlphaGO太完美了，自己無法戰(zhàn)勝它。

在《三體》中，人類頂尖科學(xué)家汪淼在三體人制造的宇宙閃爍面前心理崩潰了，那是神才能做到的事情。一個來自宇宙誕生之初，經(jīng)過137億年演化，分布于宏大宇宙各處的宇宙背景輻射。竟然被“人工”調(diào)制了！這是怎樣力量？這已經(jīng)完全超出了汪淼的理解。

隨著AI的日益進(jìn)化，AI一天都比一天強(qiáng)。現(xiàn)在已經(jīng)沒有任何人類棋手認(rèn)為人類有可能戰(zhàn)勝AI了，甚至在理論上都認(rèn)為不可能戰(zhàn)勝了。AI就是圍棋上帝已經(jīng)成為所有圍棋人的信條。

但就在人們對AI像崇拜上帝一樣的崇拜時，卻突然傳來了AI被人類棋手擊敗的消息。而擊敗AI的并不是隱藏在人間閉關(guān)苦練的頂級人類棋手。而是一名業(yè)余棋手。這名棋手是通過真真正正的分先來戰(zhàn)勝AI的，他戰(zhàn)勝的AI是卡塔狗。戰(zhàn)勝 KataGo 的這個人，不是世界冠軍，也不是職業(yè)棋手，他只是一位名叫 Kellin Pelrin 的美國業(yè)余棋手，結(jié)果與 AI 對戰(zhàn)的 15 場比賽中，他贏得了 14 場。

《金融時報(bào)》給出了答案：

Kellin Pelrin 抓到了圍棋 AI 的弱點(diǎn)——準(zhǔn)確來說，這個弱點(diǎn)是加州研究公司 FAR AI 開發(fā)的一個軟件程序發(fā)現(xiàn)的。FAR AI 用這個軟件與 KataGo 下了 100 多萬盤棋，并在此過程中分析 AI 棋手的弱點(diǎn)，從而找到人類棋手可以利用的 “盲點(diǎn)”。

Kellin Pelrin 采用的策略，說起來很簡單：慢慢將棋子串成一個“環(huán)形”，期間時不時落子在棋盤的其他角落以分散 AI 的注意力。Kellin Pelrin 對此評價說：

“即便我?guī)缀醵家瓿赡莻€環(huán)了，AI 機(jī)器人都沒有發(fā)現(xiàn)問題。但如果對方是一個人類，就很容易看出來。”

通過這種方式，Kellin Pelrin 不僅贏了 KataGo，還戰(zhàn)勝了另一個頂級圍棋 AI 系統(tǒng) Leela Zero。 Kellin Pelrin 說，這種方法能贏頂級圍棋 AI，卻連人類業(yè)余棋手都贏不了。

加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)教授 Stuart Russell 認(rèn)為：“不斷發(fā)現(xiàn)這些頂尖圍棋 AI 的弱點(diǎn)，這表明了支撐當(dāng)今最先進(jìn)的 AI 的深度學(xué)習(xí)系統(tǒng)有一個根本缺陷?！?/strong>

芝野虎丸的兄弟龍之介借助Kellin Pelrin的戰(zhàn)法，連續(xù)戰(zhàn)勝了世界目前頂級的AI：絕藝、卡塔狗和愛奇圍棋。

有專業(yè)人士指出這個bug來源于目前廣泛應(yīng)用于AI的深度卷積網(wǎng)絡(luò)的"信息傳遞困難癥"：

如果一條大龍的長或?qū)挸鲆欢ǖ南薅龋敲从捎谀壳癆I算法的局限，在AI的計(jì)算中大龍的尾部就和頭沒有任何直接聯(lián)系了，也就是說，大龍足夠長，AI就失去了死活判斷的能力,尤其是細(xì)長的大龍、分叉的大龍、卷曲的大龍，更是目前AI判斷的軟肋，如果棋手嘗試讓電腦或自己的棋變成這樣，電腦就會更容易看不清死活。

其實(shí)簡單的說，人類棋手戰(zhàn)勝AI利用的是戰(zhàn)略欺騙。也就是在比賽當(dāng)中利用讓AI將自己一條大龍包圍，讓AI產(chǎn)生一種錯覺，認(rèn)為自己已經(jīng)殺死中間的黑棋，自己連成了一片，自己已經(jīng)是活棋了，從而放松了警惕。這時人類棋手再將這條AI大龍進(jìn)行圍獵捕殺。

在劉慈欣享譽(yù)世界的著名科幻小說《三體》中，人類面對科幻實(shí)力碾壓自己的三體星人也是充滿了絕望。但是人類但是面對三體人科技上的絕對領(lǐng)先，最頂級的地球人們發(fā)明了戰(zhàn)略欺騙的辦法。三體人高效的就如同計(jì)算機(jī)大數(shù)據(jù)一般，他們沒有欺騙和造假這個概念。他們也分不清欺騙和故意欺騙的區(qū)別，而人類則是這方面的高手。人類也正是利用戰(zhàn)略欺騙在三體人手底下翻了盤，成功對三體文明建立起了戰(zhàn)略威懾。

有網(wǎng)友說，這只是AI的一個盲點(diǎn)和漏洞，AI將這個盲點(diǎn)和漏洞補(bǔ)上就可以了。其實(shí)真的沒這么簡單。這就像銀行發(fā)現(xiàn)有一分錢對不上賬，這可不是把一分錢補(bǔ)上就完事兒的事兒，而是說明銀行里有一個系統(tǒng)漏洞，如果這個漏洞找不出來，那這個銀行系統(tǒng)隨時有可能會崩潰。這就像是三體人，一旦三體人也學(xué)會了欺騙，那三體人就分不清真實(shí)和虛假的信息。三體人人的高效率將不復(fù)存在，三體文明很快就會在殘酷的環(huán)境中消亡。

也就是說，像 AlphaGo、KataGo 等圍棋 AI 系統(tǒng)，哪怕其算法再強(qiáng)大，還是無法真正深入理解圍棋，它們的反饋大多基于訓(xùn)練時接觸到的棋局。這些系統(tǒng)只能“理解”它們過去接觸過的特定情況，但無法進(jìn)行概括總結(jié)。圍棋的變化太過于繁復(fù)，AI算力再強(qiáng)大也無法窮盡。也就是說，AI目前還不是圍棋上帝。

標(biāo)簽：劉慈欣柯潔戰(zhàn)略欺騙三體