三月時埃隆·馬斯克和一些頂尖專家發(fā)布了一封公開信，呼吁全球各大人工智能實驗室停止開發(fā)強于ChatGPT 4的AI，為期六個月。

風云變幻的時代似乎就要來了，人工智能的構(gòu)想自上世紀五十年代提出，終于在七十多年后的今天就將踏入了變幻莫測的境地。

其實不難理解，拋去其中可能包含的私心，這封信的內(nèi)核并不難理解：以ChatGPT為典型的人工智能展現(xiàn)出了遠超以往的實力，阻擋人們通往強人工智能道路的迷霧加速消散，而我們?nèi)祟?，似乎并沒有準備好下一步。

不由得讓人想起鋼鐵俠2里的劇情：斯塔克的人工智能奧創(chuàng)進化出自己的意識后，通過大量資料分析，得出了“人類應當滅亡”的結(jié)論，并以此為目的展開了行動。當然電影只是現(xiàn)實的藝術(shù)加工，而在現(xiàn)實中需要擔心的，是AI進化出獨立意識的節(jié)點，一旦到達，接下來的道路便不可預測，科學家也不知道那時的“AI人”究竟會想什么了。

人類自詡地球上最具智慧的生物，現(xiàn)在正在創(chuàng)造新的具有意識和能動性的新“人類”，智能的最后一道防線被攻占后，人類又當何去何從，進化，或是被歷史的車輪碾過？

這些都是后話，而在當前這個階段，發(fā)出這份公開信的人似乎希望能夠在這六個月內(nèi)，討論出和AI共存的方法，找到合理的手段，應對未來未知的風暴。

可是，未來又怎會完全如預測所想呢，這半年的停滯究竟是否有意義，沒有任何改變能力的我也只能看著，等待一個答案。

——————————————————————————————

摘出了公開信的四個問題，看完后不知你的想法如何：

（自己瞎翻的，譯后有改寫，有錯誤煩請指正）

Contemporary AI systems are now becoming human-competitive at general tasks,?and we must ask ourselves:?

對一般性的任務來說，當代人工智能系統(tǒng)正變得能與人類一較高下，我們要捫心自問：

Should?we let machines flood our information channels with propaganda and untruth??

是否應當讓我們的信息渠道被機器用不實宣傳和虛假信息塞滿？

Should?we automate away all the jobs, including the fulfilling ones?

是否應當使所有的工作自動化，即使是意義充實的工作也不例外?？

Should?we develop nonhuman minds that might eventually outnumber, outsmart,?obsolete and replace?us??

是否應當開發(fā)非人智能？這些智能發(fā)展下去，最終或?qū)⒃跀?shù)量與智力層面超越人類，脫離人類而存在并取代人類。

Should?we risk loss of control of our civilization?

是否應當冒著人類文明不受掌控的風險繼續(xù)下去？