技術(shù)專家開始懷疑ChatGPT和AI“幻覺”問題是否會消失：“這是無法解決的”

越來越多的人與ChatGPT等人工智能聊天機器人互動，發(fā)現(xiàn)它們?nèi)菀渍f出錯誤信息。這種現(xiàn)象被稱為幻覺、發(fā)牢騷或者就是編造事實，現(xiàn)在已經(jīng)成為每個企業(yè)、組織和高中生面臨的問題，他們試圖讓生成式AI系統(tǒng)撰寫文檔，為他們完成工作。有些人甚至將其用于可能產(chǎn)生重大后果的任務(wù)，如心理治療和法律文書的研究與撰寫。

Anthropic公司聯(lián)合創(chuàng)始人兼總裁Daniela Amodei表示：“我認為現(xiàn)有的模型沒有一個不會受到一些幻覺的影響?！盇nthropic公司生產(chǎn)的聊天機器人名為Claude 2。“它們的主要設(shè)計目的是預(yù)測下一個詞，”Amodei說?！八阅Ｐ涂傆幸欢ǖ腻e誤率?！?

Anthropic、ChatGPT制造商OpenAI以及其他大型AI系統(tǒng)開發(fā)者表示，他們正在努力讓這些系統(tǒng)盡量少或不出現(xiàn)幻覺。至于最終需要多長時間，以及它們是否能夠足夠好地提供安全的建議，還有待觀察。?

華盛頓大學(xué)計算語言學(xué)實驗室主任、語言學(xué)教授Emily Bender表示：“這是無法解決的，問題出在該技術(shù)與預(yù)期應(yīng)用場景的不匹配?！鄙墒紸I技術(shù)的可靠性至關(guān)重要，因為據(jù)麥肯錫全球研究所預(yù)測，它將為全球經(jīng)濟增加2.6萬億至4.4萬億美元的價值。聊天機器人只是這股熱潮的一部分，它還包括能夠生成新圖像、視頻、音樂和計算機代碼的技術(shù)。?

Google已經(jīng)向新聞組織自薦了一款新聞撰寫AI平臺。美聯(lián)社也在與OpenAI合作，探索使用這項技術(shù)，OpenAI正在支付使用美聯(lián)社部分文本檔案以改進其AI系統(tǒng)。?

印度計算機科學(xué)家Ganesh Bagler與印度的酒店管理學(xué)院合作，多年來一直致力于讓AI系統(tǒng)創(chuàng)造出新穎的南亞美食食譜，比如以米飯為基礎(chǔ)的新口味的biryani。一個“幻覺”的出現(xiàn)可能會讓原本的美味佳肴變得難以下咽。?

OpenAI首席執(zhí)行官Sam Altman在6月份訪問印度時，德里印度技術(shù)研究院的一位教授提出了一些尖銳的問題。Bagler站在擁擠校園禮堂中對Altman說：“我猜ChatGPT中的幻覺現(xiàn)象還能被接受，但是當一個食譜產(chǎn)生幻覺時，這就成了一個嚴重的問題?！?

Altman給出了樂觀的回應(yīng)，但也沒有完全保證。“我認為我們可以在很大程度上解決幻覺的問題，”Altman說?！拔艺J為這需要一年半到兩年的時間。在那之后我們可能就不會再討論這個問題了。模型還需要時間學(xué)會在創(chuàng)造力和完美準確度之間取得平衡?！?

然而，對于一些研究該技術(shù)的專家，比如華盛頓大學(xué)的語言學(xué)家Bender，認為這種改進是不夠的。?

當用于生成文本時，Bender表示，語言模型被設(shè)計成編寫故事，它們擅長模仿各種文本形式，比如法律合同、電視劇本或者十四行詩?！暗捎谒鼈冇肋h只是編寫故事，所以當它們輸出的是正確文本時，那是很偶然的事情。”Bender說：“即使它們可以調(diào)整為更準確地完成任務(wù)，它們還是會出現(xiàn)錯誤模式，而且這種錯誤，閱讀文本的人難以察覺，因為它們往往比較模糊?！?

對于一些營銷公司來說，這種錯誤并非是個大問題。有家德克薩斯州的初創(chuàng)企業(yè)與OpenAI、Anthropic、Google和Facebook母公司Meta等合作，為客戶提供一系列量身定制的AI語言模型。對于關(guān)心準確性的人，它可能會選擇Anthropic的模型；而對于關(guān)心自己專有的源數(shù)據(jù)安全的人，可能會選擇另一種模型。?

幻覺問題確實不容易解決。但有人認為像谷歌這樣的公司能找到解決方案，谷歌在搜索引擎中有一個必須“非常高的事實準確性標準”。?

一些技術(shù)樂觀主義者，包括微軟聯(lián)合創(chuàng)始人比爾·蓋茨，對此表示樂觀。蓋茨在7月份的一篇博客文章中談到AI時表示：“我對AI模型將來能區(qū)分事實與虛構(gòu)持樂觀態(tài)度?！彼昧薕penAI在2022年發(fā)表的一篇論文作為“在這方面的有希望的工作”的例子。?

然而，即使是Altman在為各種用途推介產(chǎn)品時，他也并不指望該模型回復(fù)給他的信息，能為他保證完全真實。Altman在Bagler的學(xué)校演講時對觀眾說：“也許我是世界上最不相信ChatGPT輸出答案的人?！边@引發(fā)了眾人的笑聲。?

?

參考資料

https://fortune.com/2023/08/01/can-ai-chatgpt-hallucinations-be-fixed-experts-doubt-altman-openai/

https://www.94c.cc/info/chatgpt-and-ai-hallucinations-will-ever-go-away.html