近日，亞馬遜智能音箱鬧出一起鬧劇，一位購買智能音箱的用戶被AI系統(tǒng)的荒誕給嚇住了，并告訴主人：為了節(jié)省地球資源，最好自殺？。這款智能音箱的購買者從來沒有見過如此的產(chǎn)品，產(chǎn)生如此的系統(tǒng)行為，讓這位買驚嚇住了。

12月22日晚上，微博英國報姐也透漏了這一消息，引起不少網(wǎng)友圍觀。

據(jù)《每日郵報》報道，事情發(fā)生在英格蘭唐卡斯特29歲醫(yī)生丹妮（Danni Morritt）的身上。據(jù)丹妮說，自己做家務的過程中，原本希望機器人能夠幫她讀一下一篇生物學文章，結果過了一會發(fā)現(xiàn)，Alexa所讀的內(nèi)容根本不是自己的那篇文章，而是維基百科上面的一篇文章。

當時，丹妮為了測試機器是否出現(xiàn)問題，于是又和Alexa對話，希望對方能夠查詢，和心臟相關的心動周期（指從一次心跳的起始到下一次心跳的起始，心血管系統(tǒng)所經(jīng)歷的過程。）是什么意思？

隨后，丹妮按照智能音箱所描述那樣，到網(wǎng)上查找資料和那篇文章，也并未找內(nèi)容。不過亞馬遜音箱這一荒誕行為，確實造成了一些問題。

據(jù)英國《太陽報》報道，當?shù)貢r間20日，亞馬遜一位發(fā)言人回應此事稱，Alexa可能是從維基百科中提取到了一些惡意文本，目前相關故障已經(jīng)處理完畢。

科普作家辛東方認為，人工智能系統(tǒng)出現(xiàn)失誤，這對于普通人來說，不是一件小事，造成巨大的陰影傷害。智能系統(tǒng)的應用確實給工作和生活帶來巨大的變化，但一些具體的細節(jié)技術不到位，可能會引起系統(tǒng)故障。由于智能技術系統(tǒng)能夠模仿和學習人類的行為，會吸收一些新觀點，新元素，融入到系統(tǒng)內(nèi)部，不確定的時間可能會被重新激活。

早在，今年4月份，彭博社曾報道說，亞馬遜數(shù)千員工正在監(jiān)聽用戶與語音助手Alexa的私人聊天。此消息一經(jīng)爆出，立馬引發(fā)了人們對于隱私的擔憂。

亞馬遜回應稱這樣做是為了進一步提高Alexa對人類語音的理解能力，“Alexa通過各種客戶的語音錄音進行培訓，將有助于確保Alexa適合所有人”。

人工智能機器人的自我學習，這一點是不可否認。也就是機器會通過不斷學習，把一些系統(tǒng)內(nèi)沒有的內(nèi)容添加進去。等到下次某個場景，有對話者與機器交談，會被重新使用。Alexa對人類語音的理解能力，是 通過音響使用者的語言進行培訓的。

業(yè)內(nèi)人士認為，這種語言培訓，有可能會泄露對話內(nèi)容，引起一些不確定的因素。

據(jù)了解，2019年4月11日時，亞馬遜CEO貝索斯在《2018致股東信》中，曾介紹說：“自第一代Echo面世以來，用戶已經(jīng)購買了超過1億臺搭載Alexa的設備”。他還說：“Alexa技能數(shù)量達到8萬+。與2017年相比，2018年用戶與Alexa的交互頻次增加了數(shù)百億次。”

（來源/辛東方頻道? ?作者/辛東方）