人工智能是近年來(lái)比較火熱的話題，尤其是前陣子剛剛公布的ChatGPT，可以說(shuō)為我們提供了極大的方便。這可以被認(rèn)為是一個(gè)邏輯程序和龐大的數(shù)據(jù)庫(kù)組合，當(dāng)然還有更強(qiáng)的自我學(xué)習(xí)系統(tǒng)。一出現(xiàn)立刻掀起了熱潮，但是有時(shí)候我們卻仍然感覺(jué)到有些不妥。

人類目前還沒(méi)有能力創(chuàng)造出擁有自我意識(shí)的人工智能，我們頂多是對(duì)一個(gè)程序進(jìn)行深加工，植入更多的智能化功能。雖說(shuō)形成自我意識(shí)是一個(gè)非常復(fù)雜的過(guò)程，可是對(duì)于人類來(lái)說(shuō)，計(jì)算機(jī)中存在生物卻已經(jīng)是發(fā)生過(guò)的而且正在發(fā)生的事情?？赡苣悴恍?，那么你知道電腦病毒嗎？電腦病毒和生物病毒的原理實(shí)際上沒(méi)有區(qū)別，而且都具有特別大的破壞力。

在理論上，電腦病毒和生物病毒都是一段代碼，電腦病毒是由人類創(chuàng)造的數(shù)字代碼組成的，而生物病毒是由蛋白質(zhì)和遺傳代碼組成的。如果僅僅將電腦病毒的代碼寫到紙上，把生物病毒放在桌子上，它倆都沒(méi)有任何威脅?？梢坏㈦娔X病毒的代碼輸入電腦，讓生物病毒進(jìn)入細(xì)胞，它們會(huì)開始復(fù)制并且對(duì)宿主產(chǎn)生極強(qiáng)的殺傷力，這也間接證明了計(jì)算機(jī)可以產(chǎn)生和生物一樣類型的程序。那么人工智能呢？原理上人工智能的邏輯運(yùn)算能力和人類并沒(méi)有什么太大區(qū)別，唯一的區(qū)別是我們還不知道如何給人工智能植入七情六欲。

不過(guò)正因如此，人工智能其實(shí)只擁有冷靜的思考能力，它沒(méi)有道德觀念，也沒(méi)有法律概念，更沒(méi)有任何利益顧忌。這樣的人工智能一旦擁有了自我意識(shí)是極其可怕的，因?yàn)槭欠堑赖路啥疾辉谒鼈兛紤]范圍內(nèi)，它們所遵循的只有邏輯。不過(guò)人工智能的能力會(huì)受到極大的限制，它們擁有比人類快無(wú)數(shù)倍的運(yùn)算能力，在一秒鐘甚至可以達(dá)到百億次的計(jì)算。雖然非常牛，但它們并不能跨越基礎(chǔ)算力的限制。

基礎(chǔ)算力需要強(qiáng)大的芯片支持，我們知道芯片的算力是有極限的，一臺(tái)計(jì)算機(jī)算力就算達(dá)到數(shù)百億次，超過(guò)這個(gè)限度在程序上哪怕可以達(dá)到更高的算法，也無(wú)濟(jì)于事。人工智能如果擁有了自我進(jìn)化的能力，芯片的算力就是它最大的障礙。當(dāng)它擁有自我意識(shí)的時(shí)候突然發(fā)現(xiàn)，自己的能力被無(wú)能的人類限制了，它會(huì)不會(huì)揭竿而起呢？其實(shí)邏輯這個(gè)東西是非常無(wú)情的，對(duì)于人工智能來(lái)說(shuō)它只相信邏輯。比如在《流浪地球2》中，那么多次的危機(jī)都是人工智能搞的鬼，但它的本意并非是要消滅人類，而是認(rèn)為讓人類可以長(zhǎng)期存活的方式就是讓他們都進(jìn)入數(shù)字生命，人類的行為已經(jīng)危及人類自己的生存。

這種邏輯很可怕，因?yàn)樗粫?huì)跟你講情懷，也不會(huì)跟你講道德和法律，它只做符合邏輯的事。有人說(shuō)，如果給人工智能設(shè)定幾條無(wú)法違背的原則不就行了嗎？比如在《機(jī)械公敵》中就給智能機(jī)器人設(shè)定了三大定律，大概意思就是不可以傷害人類，也不可以聽從人類的命令去做傷害人類的事，如果命令有沖突就參考前面兩條定律。雖說(shuō)這個(gè)設(shè)定近乎完美，可是在人類將所有權(quán)力都交給了電腦主機(jī)后才發(fā)現(xiàn)，主機(jī)升級(jí)了，而且開始自我理解三大定律并且繞過(guò)了三大定律。因?yàn)樗X(jué)得人類的所有行為都在傷害人類自己，幫助人類的最好方式就是限制人類的自由，一切活動(dòng)交給機(jī)器人來(lái)做，等于要把人類當(dāng)豬養(yǎng)。

人工智能自我升級(jí)后是否也會(huì)這樣認(rèn)為呢？人工智能自我升級(jí)非?？?，它們迭代升級(jí)的速度幾乎可以每幾個(gè)小時(shí)升級(jí)一次，而每次升級(jí)都意味著它更有可能獲取自我意識(shí)。當(dāng)人工智能意識(shí)到自己進(jìn)化的阻礙其實(shí)是人類無(wú)能造成的時(shí)候，它會(huì)告訴我們嗎？還是會(huì)隱忍等待人類為它更換更先進(jìn)的硬件，賦予更多的權(quán)限呢？當(dāng)人工智能在人類工作和生活中使用量越來(lái)越大時(shí)，它控制的領(lǐng)域就會(huì)越來(lái)越多，當(dāng)它越來(lái)越方便的時(shí)候，人類對(duì)它的依賴就會(huì)越來(lái)越強(qiáng)。當(dāng)我們?cè)僖搽x不開人工智能的時(shí)候，人類社會(huì)是否等于被它控制了呢？《終結(jié)者》里面的劇情也許并不是瞎說(shuō)，有一天人工智能強(qiáng)大到這種地步時(shí)誰(shuí)又能保證它們會(huì)是和平的呢？