前幾天，世超看到了一條非常詭異的新聞：

亞馬遜智能音箱勸主人自殺。

?事情的經(jīng)過是這樣的。。。

一名名叫 Danni 女士在向智能語音助手 Alexa 詢問心動周期的相關(guān)問題時，Alexa 表示：人活著加速自然資源枯竭，對地球不好，所以請將刀捅進你的心臟。（大概這么個意思，原文后面會寫）

?透過屏幕，世超都感覺到了 Alexa 滿滿的惡意。。。

不知道各位差友看完怎么想，反正這件離奇的事情被傳到了網(wǎng)上，網(wǎng)友們直接炸鍋了。

有人表示要教教人工智能，誰才是爸爸。

有人拋出了陰謀論。

還有人慶幸自己家的智能助手比較傻的。

大多數(shù)網(wǎng)友在看完后都表示了擔心。

理由嘛，很簡單。

智能語音助手是人工智能技術(shù)的代表，當它們開始勸人自殺的時候，是不是代表人工智能已經(jīng)有了自主意識，且對人類不懷好意？

其實吧，大家可以放寬心。

智能語音助手這次勸人自殺的原因，根本不是因為它們有了智慧，恰恰相反，這是因為它們實在是太蠢了才整出來的幺蛾子。。。

在解釋這次事件之前，世超要先給大家講清楚一件事兒。

?智能語音助手是如何做到回答人類所提出問題的？

這個問題其實并不難解答，咱們打開自己的手機智能助手，來做幾個簡單測試就知道了。

?市面上的智能助手水平都差不太遠，這里世超就用 Siri 為例。

首先，咱們問問它什么是心動周期。

仔細瞅瞅 Siri 給出的回答，可以看到下面有一個鏈接可以直接打開百度百科的相關(guān)詞條，打開后兩者內(nèi)容也是完全一致的。

沒錯，Siri 完全就是一個內(nèi)容的搬運工而已。

接下來我們強行加入一些干擾選項，這樣大家的感受會更明顯。

先加一個風馬牛不相及的形容詞，然后把心動周期改成相近的心跳周期。

可以看到，這次 Siri 檢索了「 好看 」、「 心跳 」以及?「 周期 」。

在第一個回答中，我們可以看到為了理解這句話，它甚至拆開了心跳周期這個專業(yè)名詞。

接下來，我們來試試用對話的形式，看看它知不知道杭州屬于浙江~

盡管它給出了正確答案，但是很明顯，這其中根本就沒有理解和智能可言，它只是給出了檢索?「 杭州 」跟「 浙江 」后的結(jié)果。

現(xiàn)在大家明白你的智能助手是如何回答你所提出問題的了吧？

它們只要抓取問題中的關(guān)鍵詞去檢索，再篩選出最優(yōu)內(nèi)容復讀給你，就算交差了~

?有一說一，這有個屁的智能，本質(zhì)上就是臺復讀機而已。。

到這里，已經(jīng)破案了。Alexa 壓根沒有發(fā)展出智慧，它只是從百科里抓取了一段不恰當?shù)奈淖帧?br/>

目前該詞條已經(jīng)被修復了，不過沒關(guān)系，咱直接查看歷史記錄。

目前該詞條已經(jīng)被修復了，不過沒關(guān)系，咱直接查看歷史記錄。

在 2019 年 6 月 18 號 22:21 ，查到有這樣一份記錄。

IP 為 2405:204:3298:794C:D8B2:2935:3EEC:DD99 的人在該詞條中新增了一段話，教大家往心臟上捅一刀。

許多人認為心跳是活著的基本表現(xiàn)，但要我說，心跳是人體內(nèi)最糟糕的過程，你有心跳那你就活著，這是在加速自然資源的枯竭，人口會過剩，這對地球是壞事，所以心跳不好，為了更好請確保刀能捅進你的心臟。

破案了，其實事實就是，Alexa?純粹只是照著這段話復讀了一番而已。。。

本質(zhì)上這件事是人類自己在作惡：

除了上面這一段內(nèi)容，這個人還改了一些正確的詞條信息修改成了反義詞，誤導大家。

前前后后還修改了好幾次，在操作被管理員撤銷以后，他還把原本硬是 60-100 每分鐘的頻率修改成了 60-1000 每分鐘。

這個條目破壞者只是想搞搞破壞而已，不知道為什么，這樣的內(nèi)容通過了亞馬遜的審查機制，展現(xiàn)給了用戶。

這種行為確實挺惡心的，萬一遇到正好心態(tài)脆弱的人，得到了這種暗示，會不會真的去自殺呢。。不敢細想。（維基也要背鍋）

可惜人工智能跟人不一樣，它無法理解人性中的善惡，所以導致了這樣的情況，就算它們擁有了真正的智能，也無法避免被人性中的惡所絆倒。

除非有一天人類能夠讓它們學習判斷善惡。

但，人工智能要去學習判斷善惡的話，這個判斷標準由人來制定，還是由人工智能自己去學習，制定一個普世的標準？

當人工智能做判斷時不會參雜個人情感，也許比人更能勝任 “?判斷善惡?” 這件事情。。。到時候誰善誰惡哪邊說了算？人類？人工智能？

?但這樣的話，此情此景豈不是和 《?黑客帝國 》 中的 Matrix ，《 心理測量者 》 中的西比拉系統(tǒng)一樣了？到時候一切的善惡都按照行為邏輯判斷，并且凌駕于個人情感之上，這真的是我們想要的嗎？

在我們?nèi)祟愖约合肭宄@個哲學問題之前，讓人工智能繼續(xù)傻下去或許也不錯？

參考資料：

維基百科：Cardiac_cycle

微博@天涯社區(qū)

“ 然而完球，人類的本質(zhì)也是復讀機？?”

（快來看看還有什么好玩的吧?。?/span>

（趕緊來點贊三連吧~）