劉慈欣談AI人工智能:ChatGPT是否會徹底取代甚至毀滅人類?

今年,隨著人工智能的迅猛發(fā)展,或許是人類距離科幻成為現(xiàn)實最近的一次。
各行各業(yè)的專家們,都開始暢想人類與 AI 的未來。
劉慈欣作為國內(nèi)頂尖的科幻小說家之一,自然也在各種場合被提問。
最近,劉慈欣做客俞敏洪的直播間,探討本土科幻小說的發(fā)展。
當(dāng)被問到對 AI 的看法時,大劉表示,盡管人工智能目前的水平還沒有達(dá)到“統(tǒng)治人類”的程度,但它已經(jīng)產(chǎn)生了很大的影響。
他透露,在參加前不久的科幻大會時,因為時間緊迫,有一兩篇發(fā)言稿是用 ChatGPT 寫的,結(jié)果寫得還不錯。

劉慈欣談AI人工智能:ChatGPT是否會徹底取代甚至毀滅人類?

劉慈欣談及人工智能的影響,認(rèn)為其首先會取代高智能的職業(yè),但這與之前的預(yù)測相反。其次,人工智能可以自我迭代出更高智能的版本,但我們的算力限制了它的發(fā)展。此外,人工智能可能會讓人類陷入舒適的陷阱之中。
在現(xiàn)實和近未來的層面上,人工智能已經(jīng)產(chǎn)生了一個明顯的趨勢:它有可能代替我們?nèi)巳氖潞芏嗟墓ぷ?,提高我們的生活質(zhì)量和幸福感。
然而,我們也不能忽視人工智能對人類社會帶來的沖擊,特別是在文化藝術(shù)、文學(xué)等領(lǐng)域,甚至可能重新定義這些東西。至于人工智能是否會消滅人類,劉慈欣認(rèn)為從目前的技術(shù)發(fā)展趨勢來看,可能性不大。
但是,人工智能的迭代可能會讓它很快地把智能水平提高到幾百倍甚至上萬倍,而人類的計算能力是有限的,所以人類的無能反而成為最后的屏障。此外,如果人工智能發(fā)展到一定程度,社會可能會面臨前所未有的巨大陷阱。因此,我們應(yīng)該對未來有所警覺。

下面為問答節(jié)選(部分刪減):
Q:現(xiàn)在 ChatGPT 橫空出世,被人們熱烈地討論,您覺得人工智能的發(fā)展對人類的命運(yùn)會產(chǎn)生一個什么樣的影響?那自我迭代的人工智能有沒有可能會取代或者說消滅人類?
劉慈欣:我覺得這(人工智能的影響)應(yīng)該從這個現(xiàn)實或近未來和比較遠(yuǎn)的未來這兩點(diǎn)來看待。

所以這確實是我們應(yīng)該對未來有所警覺的一件事情。