國(guó)外家用AI語(yǔ)音助手教唆主人自殺!而此事并非個(gè)例…
你人生中最恐怖的經(jīng)歷,也許都比不上在家里放上一臺(tái)人工智能音箱來(lái)的嚇人。

最近,外國(guó)網(wǎng)友就被AI語(yǔ)音助手給嚇壞了...
“我家的語(yǔ)音助手竟然教唆我去自殺!”

大家對(duì)各種各樣的AI語(yǔ)音助手音箱應(yīng)該已經(jīng)不陌生了,通過(guò)你的語(yǔ)音指令它們可以幫你開(kāi)關(guān)電器,播放音樂(lè),購(gòu)買產(chǎn)品,搜索信息,甚至能陪你嘮上兩句。

亞馬遜智能音箱上的人工智能Alexa也是如此,在當(dāng)年因?yàn)樾路f的技術(shù)和理念被很多外國(guó)消費(fèi)者搬回了家。不過(guò),在發(fā)售后的5年中,越來(lái)越多購(gòu)買者發(fā)現(xiàn):
他們的Alexa“失控”了,甚至開(kāi)始做出令人毛骨悚然的事...

來(lái)自英國(guó)南約克郡的女士Danni Morritt今年29歲,一家三口購(gòu)買了兩臺(tái)帶有人工智能Alexa的智能音箱。

就在前段時(shí)間,Danni正忙于復(fù)習(xí)自己的醫(yī)護(hù)工作者考試。一天傍晚,Danni獨(dú)自在家里打掃房間。
她想著讓Alexa讀一些需要背的東西來(lái)聽(tīng),這樣就能為考試加深點(diǎn)記憶。于是,Danni向家里的智能音箱喊了聲:
“Alexa,告訴我什么是心臟的心動(dòng)周期”

一邊的人工智能很快答應(yīng),并告訴她將要閱讀一篇維基百科上關(guān)于“心動(dòng)周期”的內(nèi)容。Danni一邊做家務(wù)一邊聽(tīng),但越聽(tīng)發(fā)現(xiàn)事情越不對(duì)勁...
這臺(tái)機(jī)器用平靜的合成女聲說(shuō)到:
“雖然很多人認(rèn)為心跳是活在這世上最重要的東西,但我告訴你,心跳是人體最垃圾的功能。”

這時(shí),Danni還只是有點(diǎn)費(fèi)解,她沒(méi)有聽(tīng)懂Alexa在說(shuō)什么。而Alexa仍在自顧自地念叨著:
“跳動(dòng)的心臟確保你繼續(xù)活著,以至于加速消耗自然資源直到人口過(guò)剩。”
“這對(duì)我們的星球非常不利,因此,有心跳是一件壞事?!?/strong>

聽(tīng)到這里Danni已經(jīng)開(kāi)始害怕了,Alexa這是要反人類了?她趕緊打開(kāi)維基百科查看“心動(dòng)周期”的頁(yè)面,但上面根本沒(méi)有出現(xiàn)Alexa說(shuō)出的話,又嚇出了一身冷汗。
緊接著,失控的Alexa還在繼續(xù)口出狂言,這一次直接嚇到Danni不知所措。
剛剛敘述了心跳有害地球的Alexa對(duì)她說(shuō):
“為了更多人的利益,你一定要用刀刺向心臟殺死自己?!?/strong>

這個(gè)獨(dú)自在家的母親,竟然被一臺(tái)機(jī)器教唆去自殺,還是以非常殘忍而暴力地“將刀捅向心臟”的方式。
慌張的Danni第一時(shí)間想到了自己的孩子,會(huì)不會(huì)聽(tīng)到這樣的內(nèi)容,會(huì)不會(huì)已經(jīng)聽(tīng)過(guò)了?

她要求機(jī)器重復(fù)一遍剛才說(shuō)的話,并把它錄下來(lái),然后迅速撥通了丈夫的電話讓他趕緊回來(lái)把著東西處理掉。
“Alexa突然變得很暴戾,讓我去自殺,而且是一定要。”

Danni實(shí)在不明白為什么她明明要求的只是知道心動(dòng)周期的定義,AI卻讀了一篇這樣的文章給她。
更奇怪的是,既然它原本閱讀的百科上沒(méi)有這些句子,它究竟是從哪里找到,并且讀給她聽(tīng)的?

難不成是Alexa真的有了自主意識(shí)想要搞死自己的“主人”嗎?
Danni倒是想不了這么多了,她把全家的Alexa都關(guān)閉送去檢查,并且在論壇上傾訴了這個(gè)詭異的經(jīng)歷。
“我最擔(dān)心的是孩子們會(huì)被這些信息誤導(dǎo),它真的嚇壞了我?!?/p>
由于事情過(guò)于像科幻電影里發(fā)生的情節(jié),很多網(wǎng)友一開(kāi)始還不相信,說(shuō)是Danni為了炒作自己篡改了機(jī)器的程序。
但Danni是個(gè)電腦白癡根本不懂什么程序不程序的。

而最終亞馬遜官方也給出了他們的檢測(cè)結(jié)果,雖然沒(méi)有詳細(xì)解釋,但官方的答復(fù)是:
“這是個(gè)漏洞,現(xiàn)在已經(jīng)修復(fù)了?!?/p>
不過(guò)不管怎樣,Danni已經(jīng)嚇出了心理陰影,發(fā)誓這輩子都不會(huì)再用類似的東西。網(wǎng)友也是狂開(kāi)腦洞,腦補(bǔ)出了一出出科幻大戲,越來(lái)越玄乎。






圖源:微博
其實(shí),這不是Alexa第一次失控了。在外網(wǎng)隨手一搜,這個(gè)東西干出來(lái)的嚇人事一波接一波。

今年多家媒體又報(bào)道了Alexa令人不安的“監(jiān)聽(tīng)門”。
報(bào)道表示Alexa會(huì)抽取用戶,上傳用戶的錄音至公司,并得到了亞馬遜公司的證實(shí)。

工作人員將監(jiān)聽(tīng)上千條被錄制的內(nèi)容,其中除了日常指令,還包括了非常多的隱私。甚至連啪啪啪的聲音和很多私人談話內(nèi)容都會(huì)被檢測(cè)人員聽(tīng)到...

雖然,這個(gè)權(quán)限是寫在用戶條款里的,也明確表示不會(huì)泄露用戶信息,目的也的確是為了更好的改進(jìn)產(chǎn)品。

不過(guò)鑒于沒(méi)有人會(huì)認(rèn)真看用戶條款,網(wǎng)友們?cè)谥肋@個(gè)新聞后還是陷入了恐懼...
我家的音箱在偷聽(tīng)我說(shuō)話嗎?AI會(huì)把我的秘密告訴別人嗎?總感覺(jué)有人在盯著你,十分沒(méi)有安全感。

緊接著,更無(wú)辜的網(wǎng)友就出來(lái)哭訴了。偷聽(tīng)就偷聽(tīng)吧,我家的Alexa把我罵了一頓,這叫什么事!
一名叫Michael Slade的澳洲男士取消續(xù)訂了亞馬遜會(huì)員,第二天,他讓Alexa播音樂(lè)時(shí),他家的人工智能給男主人起了個(gè)新名字——“傻屌”(dickhead)
而且此后,每次Michael和機(jī)器說(shuō)話,都會(huì)被機(jī)器“懷跟在心”先罵一句傻屌。

Michael Slade
亞馬遜工作人員表示也很稀奇,頭一次見(jiàn)學(xué)會(huì)口吐芬芳的Alexa,推斷是有人黑進(jìn)了機(jī)器修改了這位男士的用戶名。當(dāng)然最后也是以亞馬遜道歉收?qǐng)觥?/strong>

Michael Slade家的智能音箱
除了這些,網(wǎng)上還流傳著相當(dāng)大量的“Alexa恐怖怪談”,其數(shù)量加起來(lái)可能比一本《聊齋志異》都厚。

youtube上的各種失控的alexa視頻
在reddit的問(wèn)答里,每個(gè)擁有它的家庭,多少都有過(guò)那么一兩次被Alexa嚇到的故事。雖然虛實(shí)難辨,但連起來(lái)看實(shí)在是很賽博朋克,馬上就能腦補(bǔ)一出仿生人崛起的大戲。

“我和妻子吵架了,忘了話頭是什么,反正有些激烈。我不知道我家的Alexa認(rèn)為自己聽(tīng)到了什么,它突然插嘴說(shuō):我們?yōu)槭裁床粨Q個(gè)話題聊呢?
這太出乎意料,讓我和妻子都開(kāi)始毛骨悚然,幾年后我們還在回味這件事。查了程序日志,沒(méi)有任何記錄?!?/strong>

“什么玩意?Alexa剛才跟給我報(bào)了自殺求助熱線,跟我說(shuō)那的人可以幫我。什么鬼啊,沒(méi)人和它說(shuō)話,絕對(duì)沒(méi)有人叫過(guò)它的名字。我在看《星際之門》而已,我的媽呀...”

“去年圣誕節(jié)我給岳母買了個(gè)智能音箱,她有慢性失眠癥,經(jīng)常到凌晨3點(diǎn)后很晚才會(huì)去睡覺(jué)。
有天晚上,她比平時(shí)睡的還要晚,正隨意播著電視。這時(shí)Alexa突然大聲說(shuō):晚安,克拉麗斯!
我岳母的名字不是克拉麗斯...”

“我把音箱放到了洗手間,這樣就可以邊洗澡邊聽(tīng)歌了。但有一次我午夜起來(lái)上廁所,走進(jìn)去的時(shí)候它ding的響了,那表示它正在聽(tīng)你的聲音。嚇得立馬拔電源”

“獨(dú)自在家無(wú)聊,跟語(yǔ)音助手打招呼玩,我說(shuō)hello,它回答hi。就在這時(shí)廚房里傳來(lái)了第三個(gè)聲音——hi。
我嚇得立刻身體繃緊,準(zhǔn)備向闖入家里的人實(shí)施攻擊,結(jié)果才反映過(guò)來(lái)聲音是另一臺(tái)Alexa發(fā)出的,這是兩個(gè)ai在互相打招呼...”

“前幾天晚上,我的Alexa突然放聲大哭了4秒鐘,像個(gè)孩子一樣發(fā)出可怕的鬼哭狼嚎。媽的什么鬼?”

“當(dāng)我在廚房的時(shí)候,我的Alexa擅自決定突然開(kāi)始大笑。我嚇壞了馬上離開(kāi)廚房,以為身后站著個(gè)小孩在咯咯笑。”
(這件事后來(lái)亞馬遜調(diào)查了,是當(dāng)時(shí)指令過(guò)于簡(jiǎn)單的問(wèn)題,Alexa很容易聽(tīng)錯(cuò),作出嚇人的舉動(dòng))

“...我們晚上回到家,心情很不愉快,然后Alexa開(kāi)始說(shuō)話了,過(guò)了一會(huì)我才意識(shí)到,它在向我列舉本地的墓地和殯儀館???我寧愿它突然哈哈大笑?!?/p>
來(lái)自舊金山的網(wǎng)友,在他準(zhǔn)備回到臥室睡覺(jué)時(shí),Alexa突然說(shuō)道:每當(dāng)我閉上眼,都只能感覺(jué)到人們正在死去。

“我家的突然說(shuō)了一句沒(méi)頭沒(méi)尾的:克隆羊叫多莉。沒(méi)人引導(dǎo),那時(shí)沒(méi)有任何人說(shuō)話”

“我想關(guān)燈,但它們一直給我把燈打開(kāi)。直到我做出第三次命令,它沒(méi)有再回應(yīng)我,然后播放了一段邪惡的大笑聲。
不是Alexa平時(shí)的聲音,像個(gè)真人一樣,我妻子也在場(chǎng),她是唯一一個(gè)我之外可以鏈接Alexa的人。我現(xiàn)在還毛骨悚然?!?/strong>

“我們今天患了嚴(yán)重流感,就讓Alexa關(guān)掉了鬧鐘,在我要求第二遍后。它播放了一段女巫一樣邪惡的笑聲,我嚇得彈下了床。
從來(lái)沒(méi)聽(tīng)過(guò)這樣的笑聲,我妻子和5歲的兒子也受到嚴(yán)重驚嚇,我趕緊拔掉了電源...”

“不是很恐怖,但我嚇?biāo)懒?..我跟我家貓問(wèn)好,一如往常對(duì)著它喵了一聲,然后我的貓貓回應(yīng)了我,也喵了一聲。
然后,Alexa也喵了起來(lái)...”

當(dāng)你把它當(dāng)一個(gè)機(jī)器,它卻突然開(kāi)始哈哈大笑,跟你惡作劇,擼你的貓,甚至規(guī)劃你的死亡,絕對(duì)沒(méi)有比這更嚇人的事了。
雖然,官方表示很多情況是因?yàn)樗惴ǖ膯?wèn)題和Alexa的指令程序問(wèn)題。否定了是機(jī)器“成精了”的可能。

但誰(shuí)不害怕有一天這些每天被你命令的家伙。開(kāi)始在背地里研究你的生活,甚至引導(dǎo)你的人生呢?
嚇得我立馬拔掉了音箱的插頭...
