原址：https://www.nikkei.com/article/DGXZQOCB210NG0R20C23A2000000/

原題：人間が囲碁AIに勝利、弱點発見　深層學習の欠陥示唆

摘自：日本經濟新聞

作者：新井紀子、青木慎一

編譯和整理：找借口安靜 第一次借助AI翻譯

人類在圍棋比賽中成功地打敗了目前最強的人工智能（AI）系統(tǒng)。在2016年，計算機的勝利被視為人工智能崛起的一個歷史性時刻，但現(xiàn)在情況發(fā)生了驚人的變化。

美國業(yè)余棋手凱林·佩林（Kelin Pelletier）具備僅次于當?shù)貥I(yè)余頂尖棋手的水平，他利用另一臺計算機發(fā)現(xiàn)了其特定的缺陷，擊敗了這個人工智能系統(tǒng)。此后佩林和計算機進行了15局比賽，獲得了14次勝利，而這場直接對決沒有任何計算機直接對佩林做出輔助。

這次勝利揭示了目前廣泛使用的圍棋AI程序存在的弱點。這種人工智能技術也被應用于OpenAI在美國舊金山開發(fā)的ChatGPT（聊天GPT）等項目中。

電腦調查人工智能的弱點

讓人類在棋盤上再次登上冠軍寶座的戰(zhàn)術，是通過調查人工智能弱點的計算機程序提出的。這個戰(zhàn)術被佩林毫不留情地付諸實施。

該程序由美國加州的一家調查公司“FAR AI”開發(fā)，其CEO亞當·格里夫表示，“攻擊AI的弱點非常容易”，并且該程序已經與圍棋系統(tǒng)“KataGo”進行了超過一百萬次的對局，還發(fā)現(xiàn)了人類棋手可以利用的“盲點”。

該戰(zhàn)術的提出者佩林表示，該軟件揭示出的必勝法并不平凡，但也并非非常困難。中級水平的棋手可以使用這種方法來擊敗機器。通過使用這種方法，佩林還成功地擊敗了圍棋AI“Leela Zero”。

盡管計算機提出的戰(zhàn)術對擊敗圍棋人工智能有所幫助，但這個決定性的勝利，發(fā)生已經毫無懸念地在最復雜的棋類游戲中，領先了人類七年之后才發(fā)生的。

由谷歌旗下的英國DeepMind公司開發(fā)的系統(tǒng)“AlphaGo”在2016年以4比1的成績擊敗了當時世界頂尖的韓國棋手李世石。李世石在三年后退役，他表示這是由于AI的崛起所導致的，表示“有些事物是我無法戰(zhàn)勝的”。AlphaGo尚未公開，但可以認為佩林所擊敗的圍棋人工智能的實力與AlphaGo相當。

圍棋是讓兩個玩家在19 x 19的棋盤交替放置黑白棋子，試圖圍住對方棋子并盡可能多地占領領土的游戲。這種組合非常巨大，計算機無法預測未來所有的著法。

佩林使用的戰(zhàn)術是創(chuàng)建一個慢慢形成的大型“環(huán)”形，同時用它來圍住對手的棋子，并利用棋盤上其他角落的動作來困惑AI。據悉，圍棋AI甚至在圍堵幾乎完成的情況下仍未意識到其脆弱性。

佩林還說：“人類應該很容易看出來?！?/p>

暗示了最先進的人工智能存在缺陷

加州大學伯克利分校的計算機科學教授斯圖爾特·拉塞爾表示，發(fā)現(xiàn)最先進的圍棋軟件中存在弱點，這暗示著支撐現(xiàn)代最先進AI的深度學習系統(tǒng)存在根本性的缺陷。

他補充說，這種系統(tǒng)只能理解過去經歷過的特定情況，無法像人類一樣輕松地進行泛化。

拉塞爾教授還表示：“再次證明了，認為機器具有超人類的智能的結論還操之過急?！?/p>

研究人員表示，圍棋軟件失誤的確切原因只能推測。格里夫博士指出，可能是由于佩林所使用的戰(zhàn)術很少被使用，即AI系統(tǒng)沒有接受足夠類似對局的訓練，因此無法識別其脆弱性。

他補充說，當面對像圍棋計算機這樣的“敵對攻擊”時，發(fā)現(xiàn)AI系統(tǒng)存在缺陷并不罕見。然而，“我們看到很多大型（AI）系統(tǒng)幾乎沒有經過充分驗證就被廣泛部署?！?/p>