人工智能領域的許多知名人士都簽署了一份簡短聲明，警告他們的技術可能預示著人類的終結。

周二發(fā)布的完整聲明指出：“減輕人工智能滅絕的風險應該與流行病和核戰(zhàn)爭等其他社會規(guī)模的風險一起成為全球優(yōu)先事項?！?/p>

該聲明發(fā)布在總部位于舊金山的非營利組織人工智能安全中心的網站上。它由近 400 人簽署，其中包括該領域的一些知名人士——ChatGPT 背后的公司 OpenAI 的首席執(zhí)行官 Sam Altman，以及來自谷歌和微軟的頂級 AI 高管以及 200 名學者。

OpenAI 首席執(zhí)行官 Sam Altman 于 2023 年 5 月 26 日在巴黎發(fā)表講話。

該聲明是 AI 專家提出的一系列警告中的最新聲明——但也引發(fā)了越來越多的反對，反對關注一些人認為過度夸大的 AI 假設危害。?

加密消息應用程序 Signal 的總裁兼 AI Now Institute 的首席顧問 Meredith Whittaker 嘲笑該聲明是技術領導者過度承諾他們的產品。

人工智能公司 Hugging Face 的聯合創(chuàng)始人兼首席執(zhí)行官克萊門特·德蘭格 (Clément Delangue) 在推特上發(fā)布了一張編輯過的圖片，該圖片是將“AGI”替換為人工智能的聲明的編輯版本。

AGI代表人工通用智能，它是人工智能的一種理論形式，具有與人類同等或更強大的能力。

兩個月前，包括特斯拉老板埃隆馬斯克、蘋果聯合創(chuàng)始人史蒂夫沃茲尼亞克和 IBM 首席科學家格雷迪布奇在內的另一組人工智能和技術領袖簽署了一份請愿書，呼吁“暫?！彼写笠?guī)模人工智能對公眾開放的研究。他們都還沒有簽署新的聲明，這樣的停頓也沒有發(fā)生。?

奧特曼一再呼吁對人工智能進行監(jiān)管，本月早些時候讓國會大開眼界。他與數十名眾議院議員舉行了私人晚宴，并成為了參議院友好聽證會的主題，他成為了罕見的兩黨都喜歡的科技高管。

奧特曼的監(jiān)管呼吁有其局限性。上周，他表示如果人工智能變得“過度監(jiān)管”?，OpenAI 可能會離開歐盟。

雖然白宮已經宣布了一些解決人工智能問題的計劃，但沒有跡象表明美國即將制定對該行業(yè)進行大規(guī)模監(jiān)管的計劃。

領先的人工智能評論家、紐約大學心理學和神經科學名譽教授加里馬庫斯表示，雖然人工智能的潛在威脅非常真實，但只擔心假設的最壞情況會讓人分心。

微軟總裁：人工智能“對數字技術的各個方面的未來都很重要”

“字面上的滅絕只是一種可能的風險，尚未得到充分理解，人工智能還有許多其他風險也值得關注，”他說。

一些技術專家表示，人工智能的更平凡和直接的使用對人類構成更大的威脅。微軟總裁布拉德史密斯曾表示，深度造假技術及其被用于虛假信息的可能性是他對這項技術的最大擔憂。