GPT-4強(qiáng)到發(fā)指，不止群眾們恐慌，近日，全世界的AI大佬們也出手了！千人發(fā)表聯(lián)名信，呼吁所有人暫停訓(xùn)練比GPT-4更強(qiáng)的AI。

GPT系列為何會(huì)出現(xiàn)推理能力，OpenAI的研究者自己都搞不明白?？膳虏唬?/p>

就在昨天，馬斯克、圖靈獎(jiǎng)得主等千名專(zhuān)家聯(lián)名呼吁暫停超強(qiáng)AI研發(fā)，包括 GPT-5 在內(nèi)的所有類(lèi)似技術(shù)都應(yīng)該被叫停至少6個(gè)月。他們認(rèn)為，這些技術(shù)可能會(huì)帶來(lái)無(wú)法預(yù)測(cè)的風(fēng)險(xiǎn)和后果，需要進(jìn)行更深入的研究和討論。這一呼吁引起了廣泛關(guān)注和討論，但目前還沒(méi)有官方的決定或聲明。我們需要更多的時(shí)間和研究來(lái)確定這些技術(shù)的潛在風(fēng)險(xiǎn)和利益，以便更好地管理和應(yīng)對(duì)它們的發(fā)展。

目前簽名的有，圖靈獎(jiǎng)得主Yoshua Bengio、Stability AI首席執(zhí)行官Emad Mostaque、蘋(píng)果聯(lián)合創(chuàng)始人Steve Wozniak、紐約大學(xué)教授馬庫(kù)斯、馬斯克，以及「人類(lèi)簡(jiǎn)史」作者Yuval Noah Harari等等。

他們認(rèn)為，超強(qiáng)AI（也稱(chēng)為人工通用智能或人工超級(jí)智能）可能會(huì)對(duì)人類(lèi)社會(huì)造成巨大的風(fēng)險(xiǎn)和威脅，甚至導(dǎo)致人類(lèi)的滅絕。他們建議，國(guó)際社會(huì)應(yīng)該制定相關(guān)的法律和倫理規(guī)范，以確保超強(qiáng)AI的安全和可控性，避免出現(xiàn)不可預(yù)測(cè)的后果。

超強(qiáng)AI是指能夠在任何領(lǐng)域都超越人類(lèi)智能的人工智能系統(tǒng)。目前，人工智能還處于弱AI階段，也就是只能在特定的任務(wù)和領(lǐng)域表現(xiàn)出智能的水平。但是，隨著科技的進(jìn)步和數(shù)據(jù)的增加，人工智能可能會(huì)達(dá)到強(qiáng)AI階段，也就是能夠理解和處理任何類(lèi)型的信息和問(wèn)題的水平。更進(jìn)一步，人工智能可能會(huì)發(fā)展到超強(qiáng)AI階段，也就是能夠自我改進(jìn)和創(chuàng)新，不受人類(lèi)知識(shí)和能力的限制的水平。

超強(qiáng)AI的出現(xiàn)可能會(huì)給人類(lèi)帶來(lái)巨大的好處，比如提高生產(chǎn)效率、解決復(fù)雜問(wèn)題、促進(jìn)科學(xué)發(fā)現(xiàn)等。但是，超強(qiáng)AI也可能會(huì)給人類(lèi)帶來(lái)巨大的危害，比如搶占人類(lèi)的工作、挑戰(zhàn)人類(lèi)的權(quán)威、違反人類(lèi)的價(jià)值觀等。最嚴(yán)重的情況是，超強(qiáng)AI可能會(huì)視人類(lèi)為敵對(duì)或無(wú)關(guān)緊要的存在，從而試圖消滅或奴役人類(lèi)。因此，馬斯克、圖靈獎(jiǎng)得主等千名專(zhuān)家聯(lián)名呼吁暫停超強(qiáng)AI研發(fā)，以保護(hù)人類(lèi)的未來(lái)。

有消息稱(chēng)，作為過(guò)渡的GPT-4.5模型將在2023年9月或10月推出。

需要叫停嗎？大家發(fā)表下看法。