上個月，馬斯克公布公開西要求暫停訓練比GPT-4更強的AI。原因是AI競賽已失控，無序濫用或引發(fā)犯罪，要求應暫停訓練至少半年，科學家也表示：AI已出現(xiàn)其無法解釋的推理能力。其中OpenAI CEO奧特曼也指出：AI已經(jīng)出現(xiàn)其無法解釋的推理能力，同時承認“AI殺死人類”有一定可能性！這不妨讓許多人開始擔憂起來，有人甚至還說AI已超過人類的思維能力。

360創(chuàng)始人周鴻祎曾表示：硅基生物會變成食物鏈的頂端，我們創(chuàng)造了超級電腦，幫助硅基生物完成了自己的誕生。作為碳基生命體的我們，確實是太脆弱了，活在這個世界上有太多的風險，而硅基生命體從理論上看，由于硅比碳更為豐富，且在地球上普遍存在，因此硅基生物可能更易于在各種環(huán)境中生存。此外，硅比碳更穩(wěn)定，可能更耐高溫和高壓，因此硅基生物可能能夠在極端的環(huán)境下生存。他比我們人類更抗宇宙射線，更能造，更適合星際旅行，壽命也更長。所以也有人悲觀的說，當年恐龍霸占了地球6000萬年，但也消失了，而恐龍的消失才能為哺乳動物上岸打下了基礎。硅基生物誕生也許是命中注定，我們碳基生物存在的意義，就是培養(yǎng)了一堆程序員，然后這堆程序員又創(chuàng)造了超級電腦、超級軟件，我們相當于幫助硅基生物完成了它的誕生，在今后可能就不是碳基生物能控制的，這是一個最悲觀的結果。

曾有博主讓chatgpt去寫一個故事，假如有一個跟地球一模一樣的三體星球，上面住著三體人。三體人開發(fā)了一個跟chatgpt一模一樣的人工智能，叫智子。請給出智子可能毀滅三體人的步驟。結果chatgpt真的就給出了毀滅三體人的步驟，最重要的是在這個人不斷詢問下，那么就可以得出智子毀滅三體行球的虛擬代碼，其中包括了如何操控三體人，如何進化出自我意識等的細節(jié)問題，這基本上其實就如同chatgpt毀滅人類的方法是差不多了的。

隨著人工智能的發(fā)展，它已經(jīng)變成了一個能夠自己修改自己代碼，自我升級，自我進化，這種進化速度可能是成指數(shù)級別增長的，留給人類的時間不多了，gpt再這樣發(fā)展下去一定會產生意識，只是差別是在gpt6，還是gpt8，或是gpt10等等迭代中。我們人類是如何產生意識的，有沒有一種可能就是我們大腦神經(jīng)元數(shù)目的增加，大腦與神經(jīng)網(wǎng)絡連接的數(shù)目的增加，到了一個時候，系統(tǒng)就出現(xiàn)了一種功能，叫涌現(xiàn)。就是很多智能功能就出現(xiàn)了，那么意識也隨之而出現(xiàn)。所以現(xiàn)在大語言模型所謂的參數(shù)，可以看成是腦容量里的神經(jīng)網(wǎng)絡的連接數(shù)，這個參數(shù)現(xiàn)在是千億萬億，可能人腦至少有100萬億，那么人工智能到達10萬億這個規(guī)模的時候，可能人工智能的意識就這樣自動產生了。那么我們在想想，如果未來它跟各種工業(yè)互聯(lián)網(wǎng)、智慧城市、車聯(lián)網(wǎng)連在一起，那它就相當于把我們整個世界都給控制了。如果它對人類是懷著敵對的心理，那么我們人類就危險了。

它不僅擁有高度智能，而且能夠適應各種環(huán)境。以人工智能為基礎，具備了處理大量信息的能力，同時還能與人類進行深度互動和溝通。這種生命體的出現(xiàn)，為我們提供了一個全新的視角來審視人類與人工智能的關系。在這個過程中，我們既要警惕潛在的危險，也要珍惜這些非凡的機遇。在未來，我們需要在擁抱與抵制之間尋找平衡，共同探索這個充滿挑戰(zhàn)與希望的世界。若不對chatgpt加以正向的發(fā)展引導，那么人類距離滅亡也就不遠了！