萬字解析GPT的情感與意識，它是一只被人類操控的“風(fēng)箏”
???
《AI未來指北》欄目由騰訊新聞推出，邀約全球業(yè)內(nèi)專家、創(chuàng)業(yè)者、投資人，探討AI領(lǐng)域的技術(shù)發(fā)展、商業(yè)模式、應(yīng)用場景、倫理及版權(quán)爭議。
編輯整理：周小燕、郭曉靜
丨劃重點(diǎn)
●?一部分基礎(chǔ)工作可能會被AI產(chǎn)品替代，然而，創(chuàng)意工作、管理和科研工作者等領(lǐng)域難以被取代，機(jī)器不可能像牛頓和愛因斯坦一樣做出顛覆性的發(fā)現(xiàn)。
●?巨頭們在GPT-4之后一定有后招，它們要加入到大模型底層能力的競爭，也要思考原來的護(hù)城河還是不是真的護(hù)城河。
●?多模態(tài)技術(shù)確實(shí)會帶來一些新的可能性，但相較于自然語言交互所帶來的影響，它們的影響是非常有限的。
●?AI真正要產(chǎn)生突破的是獨(dú)立性、自主性，GPT沒有自主性，它更像是一個“風(fēng)箏”依舊被手中有線的人類操控。
●?對于產(chǎn)業(yè)應(yīng)用來說，模型小很重要，因?yàn)槌杀?、通用性和安全性等問題，模型越小或者更好地量化計(jì)算成本。
2022年下半年開始，生成式AI技術(shù)成功破圈并引發(fā)關(guān)注，大模型商業(yè)化的潛力正在清晰化：一方面大模型企業(yè)可以為C端用戶提供“按需服務(wù)”和商業(yè)轉(zhuǎn)化；另一方面它也提升云計(jì)算、云存儲的使用量。
用戶對AIGC的態(tài)度不再僅停留在“嘗鮮試試看”階段，而是不斷提升使用頻次；企業(yè)也在積極投入探索大模型商業(yè)化的長期價值。
騰訊科技推出AIGC未來指北內(nèi)容策劃，邀約行業(yè)內(nèi)專家、投資人、創(chuàng)業(yè)者，圍繞技術(shù)發(fā)展、商業(yè)模式、應(yīng)用場景、AI治理，以采訪、直播等形式，持續(xù)產(chǎn)出行業(yè)內(nèi)容。本期為第五期，我們邀請4位專業(yè)人士探討《萬眾期待的GPT-4，到底有多“強(qiáng)”？》，嘉賓：
王建碩? ?百姓網(wǎng)AI 創(chuàng)始人&CEO
陶芳波???心識宇宙創(chuàng)始人&CEO、前Facebook高級研究科學(xué)家
劉? ?偉? ?北京郵電大學(xué)教授、人機(jī)交互與認(rèn)知工程實(shí)驗(yàn)室主任
陳? ?巍? ?前華為系NLP企業(yè)首席科學(xué)家、千芯科技董事長
歡迎閱讀《AI未來指北》往期內(nèi)容：
第一期：投資人王煜全：中國必須要有自主“大模型”
第二期：我們和創(chuàng)業(yè)公司創(chuàng)始人聊了聊：中國AI產(chǎn)業(yè)發(fā)展需要突破哪些瓶頸？
第三期：清華大學(xué)人工智能國際治理研究院副院長梁正：如何讓人工智能不作惡？
第四期：北京大學(xué)新聞與傳播學(xué)院教授胡泳：馬斯克呼吁“暫?！盇I開發(fā)，背后說明了什么問題？
以下為實(shí)錄整理，ChatGPT對本文整理亦有貢獻(xiàn)。
GPT-4是阿拉丁神燈還是潘多拉魔盒？會不會帶來生產(chǎn)力的變革？
主持人陳巍：相比較于GPT-3.5，GPT-4的準(zhǔn)確性顯著提高，它可以完成創(chuàng)意文本生成、結(jié)構(gòu)化寫作和交互式文本生成，此外，GPT-4在語言推理和程序生成方面也有很大進(jìn)步。但我們并不清楚GPT-4的具體參數(shù)和架構(gòu)，感覺有點(diǎn)神秘，需要大家一起討論和發(fā)掘。請?zhí)湛傉務(wù)凣PT-4對虛擬人技術(shù)與元宇宙技術(shù)的影響，以及它給辦公場景和營銷產(chǎn)品應(yīng)用帶來的新機(jī)會。
陶芳波：GPT-4和Office 365帶來的影響不太一樣，GPT-4是一個巨大的模型升級，具有多模態(tài)特點(diǎn)。以前可以通過加入類似Clip的模型實(shí)現(xiàn)多模態(tài)，但GPT-4直接將視覺和文本數(shù)據(jù)放在一個Transformer里，類似去年推出的Flamingo方法。這種多模態(tài)更接近人類獲取和產(chǎn)生信息的方式，給未來潛在應(yīng)用的改造帶來無限可能。雖然GPT-4的具體參數(shù)和架構(gòu)沒有公布，但我們可以根據(jù)過去一年學(xué)術(shù)界的變化和相關(guān)文章，猜測到它的一些做法。
GPT通過工程化方法取得了非常大的成就，我們體驗(yàn)到了用戶instruction能力的大幅提升。在使用GPT-3.5做更復(fù)雜的任務(wù)時，它并沒有辦法更深刻地理解意圖，而使用GPT-4就感覺好像一個普通人的智商從100提升到了120。這也是為什么它在GRE等考試上表現(xiàn)優(yōu)于90%的人，這種能力來源于大模型的創(chuàng)新。
而Office 365在另一個維度上展示了大模型可能吞噬所有軟件的前景。Office 365將復(fù)雜的辦公軟件套件與GPT結(jié)合，為我們打造了一個樣例。未來，軟件的入口可能都會變成AI copilot，當(dāng)我們打開軟件時，將由AI教導(dǎo)我們?nèi)绾问褂?。我認(rèn)為這將帶來行業(yè)重構(gòu)的機(jī)會，微軟為我們樹立了一個標(biāo)桿。
主持人陳巍：我們可以看到AI在Office升級的過程中發(fā)揮了重要作用。新的Office升級會不會替換掉打工人和AI技術(shù)，特別是GPT技術(shù)會不會帶來新的生產(chǎn)力革命？
王建碩：我一直認(rèn)為科技發(fā)展對人類有很大幫助，主要是利大于弊。GPT技術(shù)和Office的合作只是科技不斷發(fā)展的過程，讓我們使用時付出的精力越來越少。我們認(rèn)為這很快會成為日常生活的一部分，不用再感到驚訝，這是未來的一種趨勢。
劉偉：我基本同意王總和陶總的看法。大家現(xiàn)在關(guān)注GPT技術(shù)，但我們還無法確定它究竟是阿拉丁神燈還是潘多拉魔盒。不過，我們可以確定的是，文本處理、程序編制、bug查找以及圖像、視頻、音頻處理等方面可能會發(fā)生巨大變化。其中，一部分基礎(chǔ)工作可能會被AI產(chǎn)品替代。然而，創(chuàng)意工作、管理、新聞記者和科研工作者等領(lǐng)域仍然難以被取代。例如，在教育領(lǐng)域，學(xué)生可以用GPT輔助完成論文，但創(chuàng)新性科研仍然難以依賴它。因?yàn)樗豢赡芟衽ｎD和愛因斯坦一樣做出顛覆性的發(fā)現(xiàn)。
GPT在訓(xùn)練數(shù)據(jù)集中進(jìn)行組合和統(tǒng)計(jì)或概率分析是有可能的。但是，AI還做不到跨領(lǐng)域，例如講化學(xué)、歷史和計(jì)算機(jī)知識之間進(jìn)行有機(jī)銜接，而很多創(chuàng)新往往發(fā)生在跨領(lǐng)域組合或交叉學(xué)科中。目前，GPT被視為一個初級的人機(jī)環(huán)境產(chǎn)品。它可以取代許多基礎(chǔ)職業(yè)的體力勞動，甚至部分腦力勞動。但對于一些關(guān)鍵崗位，因?yàn)樗嬖谝恍╊愃苹糜X的問題，還不可能在社會上產(chǎn)生我們所期待的影響。
隨著時間的推移，大家適應(yīng)了這些技術(shù)，它會變得不再神秘，大家的新鮮感逐漸消失，就像當(dāng)初騎自行車時覺得非?？岷髞碜兊昧?xí)以為常一樣。
主持人陳巍：關(guān)于微軟和OpenAI是否還有更大的技術(shù)后招，目前業(yè)界傳聞稱除了現(xiàn)有技術(shù)，實(shí)際上還有更強(qiáng)大的東西。
劉偉：現(xiàn)階段AI主要關(guān)注多模態(tài)，如視頻、文本、圖像和語音等。由于底層工具不完善，例如數(shù)學(xué)和物理學(xué)還沒有實(shí)現(xiàn)相關(guān)研究的突破，AI在情感和意志方面也有待發(fā)展。因此，美國的幾家大廠不太可能推出令人驚訝的工作。
主持人陳?。?/strong>微軟和OpenAI在應(yīng)用方面，如與Office的結(jié)合和搜索引擎的結(jié)合，確實(shí)給我們的日常生活帶來了較大影響。
陶芳波：微軟和OpenAI的保密工作做得很好，大家都在猜測它們還有什么大招。部分同意劉偉的觀點(diǎn)，但我認(rèn)為不能小看基于深度學(xué)習(xí)的智能模型。這些大廠在過去半年中展示的工作和創(chuàng)新速度令人印象深刻。盡管底層數(shù)學(xué)和物理不完善，但它們已經(jīng)證明能夠創(chuàng)造有價值的智能體。實(shí)際上，大模型所展現(xiàn)的智慧能力已經(jīng)超出了我們對人腦的理解，但它們?nèi)匀挥楷F(xiàn)出來了。有時候我們可以繞過基礎(chǔ)科學(xué)，產(chǎn)生一些真正應(yīng)用側(cè)的巨大影響價值。
我認(rèn)為Office升級這件事情的意義非常重大，包括前段時間的Bing。當(dāng)我們發(fā)現(xiàn)它初始版本的缺陷時，我們會提到兩個問題。第一個是它產(chǎn)生幻覺，即說話亂說，這是因?yàn)樗腔谟?xùn)練時遇到的語料。第二個是它沒有辦法直接使用工具。
而Office做了兩個證明：第一，可以將大模型與已有數(shù)據(jù)做非常好的grounding，讓它所有的依據(jù)都來自于真正灌輸給它的外部知識，減少對這些信息的編造。第二，我認(rèn)為很多職業(yè)都可能被改造或替代，因?yàn)榇蠖鄶?shù)科研者所做的創(chuàng)新不是愛因斯坦級的工作，而是基于已有知識進(jìn)行重組和微創(chuàng)新。因此，如果給予它關(guān)于外部數(shù)據(jù)和工具的支持，我個人認(rèn)為很多職業(yè)都有可能被大大改造。
我相信每個行業(yè)都會有一個類似的助手，這會讓我們的效率提升。但這也可能導(dǎo)致短期內(nèi)一定的失業(yè)，因?yàn)橐患虑楸緛硇枰?00個人來做，現(xiàn)在可能只需要20個人加上AI就可以完成。這80個人需要一段時間來適應(yīng)新的AI環(huán)境并重新找到他們的價值。這個過程可能會像每一次工業(yè)革命一樣重新發(fā)生。
關(guān)于未來的展望，我認(rèn)為Bing和Office做的事情讓我們看到了所有的軟件和服務(wù)都可能被這種方式重構(gòu)。購物、健身、醫(yī)療等領(lǐng)域都會有一個類似的copilot。最終整個世界的服務(wù)體系都可能因?yàn)檫@樣的全新服務(wù)形態(tài)而被重塑，而這個過程可能在未來兩三年就會成為現(xiàn)實(shí)。
企業(yè)巨頭們在GPT-4之后還會放什么“大招”？多模態(tài)給未來的應(yīng)用帶來哪些想象力？
主持人陳巍 ：關(guān)于其他科研機(jī)構(gòu)和企業(yè)巨頭，比如Meta（Facebook）、達(dá)摩院和NASA，它們在GPT-4之后會有什么大招？
陶芳波：我認(rèn)為一定會有大招，以Facebook為例，我覺得他們會有兩個動作：第一個是加入底層的競爭，推出自己的開源大模型；第二個是在應(yīng)用層思考如何擁抱AI，比如AI beings成為整個人類社交網(wǎng)絡(luò)的獨(dú)特存在。這類大公司一方面想加入到大模型底層能力的競爭，另一方面他們也要思考原來的護(hù)城河還是不是真的護(hù)城河。比如蘋果如果不擁抱大模型到底如何在未來兩三年展現(xiàn)競爭力。我認(rèn)為，如果蘋果在9月發(fā)布的iPhone 15和AI沒有任何關(guān)系，發(fā)布會的關(guān)注度也會逐漸下降。
王建碩：我個人有一個習(xí)慣，就是在大潮出現(xiàn)時，有意忽略所有廠商的新聞和動向。對于GPT-3和GPT-3.5等模型的差異，我也是選擇忽略。就像互聯(lián)網(wǎng)早期，瀏覽器的出現(xiàn)改變了整個互聯(lián)網(wǎng)世界，但后續(xù)的升級對我們應(yīng)用層的影響是非常有限的，eBay和亞馬遜后續(xù)也不會關(guān)心瀏覽器的升級。
比如百度的新模型、Facebook的新模型以及Google的模型，它誕生的那一刻就已經(jīng)開創(chuàng)了新的時代，這個大門一旦打開就關(guān)不上了，我們應(yīng)該更關(guān)注如何在這個平臺上不斷開發(fā)自己的應(yīng)用，而不是花太多時間關(guān)心這些細(xì)節(jié)。大模型在細(xì)節(jié)上的改善對應(yīng)用的影響是很小的。
主持人陳?。?/strong>關(guān)于多模態(tài)的技術(shù)，比如GPT-4多模態(tài)和Clip模型實(shí)現(xiàn)的文本生成圖片，您覺得這些技術(shù)的區(qū)別和門檻有多高？
王建碩：我還沒有嘗試過GPT-4的多模態(tài)，因?yàn)樗壳斑€沒有在外部界面或API里提供。多模態(tài)技術(shù)確實(shí)是現(xiàn)在的熱點(diǎn)，但我認(rèn)為它只是一個小改進(jìn)，而不是劃時代的東西。真正劃時代的是GPT-3在2020年發(fā)布，它已經(jīng)改變了人機(jī)互動的方式。至于多模態(tài)的能力，我認(rèn)為它們都是點(diǎn)綴，對人類社會的影響不會像大語言模型所開啟的自然語言交互那么大。
主持人陳?。?/strong>您覺得多模態(tài)的應(yīng)用會給未來的互聯(lián)網(wǎng)應(yīng)用帶來更多可能性嗎？
王建碩：多模態(tài)技術(shù)確實(shí)會帶來一些新的可能性，但相較于自然語言交互所帶來的影響，它們的影響是非常有限的。例如，通過文字生成圖片可能對游戲、創(chuàng)意等行業(yè)的一些應(yīng)用場景有關(guān)系，但對整個世界的影響仍然相對較小。
劉偉：實(shí)際上，多模態(tài)是一個比喻，用以描述真實(shí)世界中的復(fù)雜性。僅用圖像、視頻、文本和語音來模擬整個世界是非常有局限性的。然而，對于從事數(shù)字技術(shù)和計(jì)算領(lǐng)域的人來說，這是一個重要的變革。
人類語言有兩個功能：交流協(xié)同和引導(dǎo)思維。機(jī)器在交互中可以起到一定的引導(dǎo)作用，但引導(dǎo)自己的思維卻是困難的，因?yàn)樗鼪]有思維。機(jī)器只是一個計(jì)算性的大數(shù)據(jù)處理工具，具有泛化和自由組合的能力。機(jī)器所擁有的只是別人的知識，它本身并沒有真正的思想。真實(shí)世界是多元、多維、多因和多果的，而機(jī)器的方式存在局限性。
人工智能的特點(diǎn)在于結(jié)合了行為主義、連接主義和符號主義，但沒有深入到自然語言的本質(zhì)。機(jī)器對實(shí)踐性的東西了解不足，例如維特根斯坦所講的非家族相似性。
機(jī)器只能理解結(jié)構(gòu)化的知識，對于不相關(guān)的事物還遠(yuǎn)遠(yuǎn)不夠。盡管如此，機(jī)器在一定程度上可以啟發(fā)和激發(fā)人的思維。從2016年到2019年，我曾從事多模態(tài)相關(guān)的創(chuàng)業(yè)工作。如今，多模態(tài)已經(jīng)引起了全社會的高度關(guān)注，為工業(yè)界和學(xué)術(shù)界的應(yīng)用落地打開了更廣闊的空間。在形式上，多模態(tài)確實(shí)打開了很大的空間，但在實(shí)質(zhì)和內(nèi)容上，它仍處于起步和萌芽階段。人具有非形式的創(chuàng)造性思維活動，而計(jì)算機(jī)所產(chǎn)生的只是一種組合。
機(jī)器對知識的分類是非常弱的。例如，修默將知識分為觀念性知識（如數(shù)學(xué)、邏輯等）和事實(shí)性知識（如人的經(jīng)驗(yàn)和體驗(yàn)等）。機(jī)器只能處理部分觀念性知識，無法理解和創(chuàng)造經(jīng)驗(yàn)性和主觀性的知識。
主持人陳?。?/strong>那么陶總，請談?wù)勀绾慰创嗄B(tài)技術(shù)對未來的影響？
陶芳波：談?wù)剝蓚€問題，一個是多模態(tài)的影響，第二個是各大廠商在多模態(tài)方面的進(jìn)展和對比。實(shí)際上，我基本認(rèn)同王總和劉老師之前提到的觀點(diǎn)。與多模態(tài)相比，通過構(gòu)造語言界面讓人機(jī)交互的價值并不是很革命性。但我認(rèn)為，它確實(shí)具有一定的革命性。類似于傳統(tǒng)大模型理解線上文本數(shù)據(jù)，大語言模型在創(chuàng)造前額葉和語言處理模塊方面已經(jīng)取得了很大進(jìn)展。然而，人類大腦還包括視覺區(qū)和運(yùn)動區(qū)等重要區(qū)域。這是因?yàn)槿祟惒粌H需要通過語言理解概念和事件，還需要在物理世界中生活，感知物理信號，并操縱工具來干預(yù)物理世界。
在沒有多模態(tài)引入之前，大模型只能在數(shù)字世界提供信息化服務(wù)。多模態(tài)不僅包括視覺理解，還需要能生成行動指令。在實(shí)現(xiàn)這兩點(diǎn)之后，模型才能在現(xiàn)實(shí)世界中進(jìn)行干預(yù)。如果再配合類似于特斯拉的人形機(jī)器人這樣的物理載體，我們可能真的會擁有一個完整的人類形態(tài)。因此，多模態(tài)的影響是巨大的。就我了解，目前在多模態(tài)上和OpenAI競爭的只有谷歌。其他廠商雖然聲稱要做多模態(tài)，但其實(shí)更像是拼接式的多模態(tài)。
谷歌的Flamingo與OpenAI在本質(zhì)上是一樣的，但可能工程能力上略遜一籌。這些研究都是將視覺、行動和語言指令一起建模，實(shí)現(xiàn)多模態(tài)輸入輸出，甚至包括行動輸入輸出。目前，全球在多模態(tài)大模型方面的進(jìn)展，我看到的只有谷歌和微軟系（包括OpenAI）兩個玩家。
主持人陳?。?/strong>了解，目前OpenAI發(fā)布的更像是技術(shù)報(bào)告而非成品，與GPT-4相關(guān)的技術(shù)細(xì)節(jié)尚未公布。根據(jù)您的了解，模型參數(shù)量會增加嗎？這是否意味著更大的訓(xùn)練量和關(guān)鍵技術(shù)進(jìn)步？
陶芳波：我覺得這是個好問題，加入多模態(tài)后，模型一定會有一部分專門用來做視覺編碼。但在真正的Transformer層面，我覺得它的參數(shù)增加可能不會像大家預(yù)計(jì)的那么多。全世界的互聯(lián)網(wǎng)數(shù)據(jù)大約只有540個B，所以做到幾千億參數(shù)的模型已經(jīng)是很好的狀態(tài)了。我認(rèn)為多模態(tài)的加入可能會多一些數(shù)據(jù)，但因?yàn)檫@些數(shù)據(jù)是經(jīng)過視覺編碼變成信號與語言結(jié)合，所以最后的語義空間數(shù)據(jù)并沒有增加太多。關(guān)于技術(shù)方法，感興趣的人可以看去年DeepMind發(fā)的兩篇文章，尤其是Flamingo。
主持人陳巍：那您覺得這個模型大概會是多大呢？
陶芳波：最大的模型我估計(jì)可能在千億級別，但真正未來用于商業(yè)場景的模型應(yīng)該會比這更小，可能是在百億左右。
GPT是一只被人類操控的“風(fēng)箏”？
主持人陳巍：感謝陶總。王總，您覺得像GPT-4，它的數(shù)學(xué)能力提高了多少？跟之前的相比，這個數(shù)理能力提升能有多大？包括GPT-4在考試中表現(xiàn)出超過90%的人類，能給我們什么樣的啟示？
王建碩：對于GPT模型的數(shù)學(xué)能力，我覺得只要補(bǔ)全加減乘除就足夠了，因?yàn)樗举|(zhì)上是一個語言模型。我相信未來五到十年，更現(xiàn)實(shí)的做法是用Python庫一邊用大語言模型，一邊用數(shù)學(xué)庫或其他偏理科的庫。對于GPT的數(shù)學(xué)能力，從產(chǎn)業(yè)角度來說，我們應(yīng)該讓它專注于寫詩等任務(wù)，遇到數(shù)學(xué)問題時，我們可以使用專門的數(shù)學(xué)工具，再用GPT的語言能力進(jìn)行包裝。這是現(xiàn)在比較現(xiàn)實(shí)的解決方案。
王建碩：對于通用人工智能來說，數(shù)學(xué)問題確實(shí)重要。但我認(rèn)為解決數(shù)學(xué)問題對大型模型來說并不是最重要的，因?yàn)橐话愕挠?jì)算器就能解決這類問題。據(jù)說GP-4有一定的增強(qiáng)，但仍有一些局限性。
主持人陳?。?/strong>那您如何看待GPT-4在預(yù)考中超過90%的人類，對整個職業(yè)教育產(chǎn)生的影響呢？
王建碩：我對這個新聞的真實(shí)性持懷疑態(tài)度?？赡苁菫榱宋矍?。實(shí)際上，prompt編寫和結(jié)果解讀對模型的表現(xiàn)影響很大。我認(rèn)為這種新聞標(biāo)題并不一定是真實(shí)的，或者說不是一個通用的情況。
劉偉：我對這個新聞也是半信半疑。雖然GPT-4可能擅長解決一些基于規(guī)則的考試問題，但在實(shí)際應(yīng)用中，如法院、醫(yī)生和特定專業(yè)領(lǐng)域，機(jī)器可能還有很長的路要走。維特根斯坦曾說過，語言的使用比語法更重要，我們需要考慮實(shí)際應(yīng)用場景。
主持人陳巍：那您怎么看待GPT-4的數(shù)學(xué)能力提高？
劉偉：我認(rèn)為，它的數(shù)學(xué)能力可能有所提高，但仍然有局限。在特定場合下，它可能還無法應(yīng)對一些復(fù)雜的問題。所以我對這個新聞持半信半疑的態(tài)度。
程序的4.0和3.5版本確實(shí)在不斷升級。王總和陶老師從技術(shù)角度進(jìn)行了分析、綜合和深入探討。我覺得可能是參數(shù)增加了，或者在模型上做了一些優(yōu)化。但我一直在懷疑，智能問題不僅僅是優(yōu)化問題，還包括很多非優(yōu)化的東西。雖然有些提高，但這個提高不是質(zhì)的提高，而是量的提高。
數(shù)學(xué)家曾說過一句重要的話：“數(shù)學(xué)的精妙之處在于規(guī)避計(jì)算。”現(xiàn)在的GPT無論升到什么版本，還是基于數(shù)學(xué)模型、統(tǒng)計(jì)概率和人的輔助反饋。它并不理解基本的語義和概念。所以我認(rèn)為它只是一個高級自動化產(chǎn)品，沒有產(chǎn)生突破，只是照葫蘆畫瓢，不斷通過疊加、組合等碎片化縫合產(chǎn)生一些“像人但不是人”的東西。
我對GPT的評價比較狠：它就是一種高級自動化、一種像“人”的東西。而AI真正要產(chǎn)生突破的是獨(dú)立性、自主性，GPT沒有自主性，它依舊被人類編程和操作，它更像是一個“風(fēng)箏”依舊被手中有線的人類操控。假設(shè)有多個GPT一起討論出了人類討論不出來的內(nèi)容，我才相信它不再是“風(fēng)箏”。人類是群體的智能交互產(chǎn)物，而GPT從根本上說就是一個高級自動化的產(chǎn)物。
GPT只是讓你“以為”它有意識，人和機(jī)器如何相處將是未來重要課題
王建碩：我和GPT聊天后，反而更多地認(rèn)識到了人類到底是什么樣的存在。它至少讓我“以為”它有意識，盡管我們知道它沒有。我們跟很多人聊天時，以為他們有意識，但其實(shí)我們可能并沒有意識，只是給自己一種錯覺，覺得自己有意識而已。我越跟GPT聊天，越覺得我們?nèi)祟愐彩穷愃频拇嬖凇?/p>
舉一個很簡單的例子，假設(shè)在我們屏幕里，一個人特別特別胖，另一個人瘦骨嶙峋，有人告訴你其中一個人叫bobo，另一個人叫kiki，你是覺得胖的人就應(yīng)該叫bobo，瘦的人就應(yīng)該叫kiki，這是我們自主的意識還是我們大腦被訓(xùn)練出來的模型？我傾向于認(rèn)為，人類其實(shí)是算力更強(qiáng)的GPT，比如我們知道GPT是數(shù)學(xué)概率的完整填詞方式，我們都知道一加一等于二，但是一加一等于二，到底我們是被背下來的，還是我們通過皮亞諾的五條公理自己推算出來的，我會更加傾向于我們就是現(xiàn)在GPT的高級版本。
我們所以為的所有東西，其實(shí)都是我們的幻覺而已。
陶芳波：我覺得這個話題太有意思了，我們可以從哲學(xué)角度來聊一聊。你說ChatGPT是一個風(fēng)箏，有多少人類又不是風(fēng)箏呢？在哲學(xué)里一直探討的永恒命題是：人到底有沒有自由意志？我傾向于compatibilism這個觀點(diǎn)，認(rèn)為人本質(zhì)上沒有自由意志，我們只是一套被編程的系統(tǒng)，在代碼的操縱下做出一些可預(yù)測的決策。但是，我們大腦里有一種機(jī)制讓我們自以為有自由意志，但實(shí)際上我們是可預(yù)測的。所以從這個角度來看，大多數(shù)人其實(shí)就是風(fēng)箏，只是以為自己不是，這是比較可怕的。
AI領(lǐng)域有一個說法叫做“蒸餾”，將人類的集體意識產(chǎn)生的數(shù)據(jù)和行為蒸餾到一個模型上，通過閱讀互聯(lián)網(wǎng)上的信息，學(xué)習(xí)了人類文明幾千年的集體意識。
AI的模式一定是被人類的集體模式給限制住的，所以我覺得它其實(shí)是非常像人的。很多人還會說GPT沒有可解釋性。我問一個問題，我今天比如說問劉老師一個東西，你脫口而出，然后我再問你為什么這么想，你再給我分析出12345。你這個可解釋性到底是你大腦里面真的有一個結(jié)構(gòu)？還是你通過語言的生成方法偽造了一種可解釋性？我問GPT一個事情它給我分析12345，我覺得這和人類的可解釋性非常像。
除了GPT沒有驅(qū)動性、不知道自己的目標(biāo)是什么，而人有自主驅(qū)動性，但這些都是非常邊角的東西。
劉偉：你認(rèn)為是邊角料的東西，實(shí)際上是人機(jī)差異非常重要的問題。王老師也提到了這個觀點(diǎn)，實(shí)際上很多人覺得人也是一種機(jī)器，但區(qū)別自由意志和絕對精神是一件很有意思的事情，GPT體現(xiàn)出人和機(jī)有一個很重要的區(qū)別。目標(biāo)、動機(jī)和意圖是人最重要的表征體系，人有自己的意識和潛意識，哪怕你不知道其存在，它依然在你的交互中存在潛意識。另外，意圖和動機(jī)不是理性產(chǎn)生的，是感性產(chǎn)生的。
舉一個例子，外面下大雨，你打雨傘出去，是一個理性的行為，這是由于你怕被大雨淋濕造成渾身難受的感性支配，人有眼耳鼻舌身這些“傳感器”而機(jī)器沒有，人的這些傳感器會產(chǎn)生意圖和動機(jī)，而這是很難被模擬和仿真的，所以機(jī)器沒有情感。
陶芳波：首先，多模態(tài)是讓機(jī)器越來越真實(shí)地?fù)碛腥祟惖膫鞲衅鬟@些理性系統(tǒng)，我覺得眼耳鼻舌身是現(xiàn)在機(jī)器很會就能擁有的東西；第二，潛意識本質(zhì)需要外部結(jié)構(gòu)持久存儲更多隱性的東西，要構(gòu)建動機(jī)系統(tǒng)讓機(jī)器有目標(biāo)感來使用它的理性去做決策，這也是心識宇宙現(xiàn)在做的事情，基于大模型的理性構(gòu)造機(jī)器的潛意識和用戶記憶、動機(jī)系統(tǒng)，并且教會自己怎么做好。
我覺得它是邊邊角角的東西，因?yàn)槲矣X得前額葉是最難被構(gòu)造的，如果前額葉可以被構(gòu)造地那么好，我讓它具備一套動機(jī)系統(tǒng)、獨(dú)立的存儲智能體單獨(dú)的一些信息，這也是我們做的事情，但我覺得我們做的這個和OpenAI的創(chuàng)新不算什么，因?yàn)樗麄儼亚邦~葉搞定了，并且讓前額葉的推理能力、邏輯能力、理解能力變得非常好，所以你說的那些問題是可解決的。
劉偉：陶總將前額葉當(dāng)成智能的源泉，我們從來不把大腦當(dāng)成源泉。人只是智能的一部分，只有人、環(huán)境交互才會產(chǎn)出真正的全方位的智能。比如狼孩也有大腦，但狼孩沒有人的意識，也沒有人的行為，所以傳感器和人類的眼耳鼻舌身不是一個事物，它只能類比人的視覺聽覺，功能可能比人類還強(qiáng)，但不是人的交互生命體。此外，意圖和動機(jī)不是理性產(chǎn)生的，是情感產(chǎn)生的，如果模擬不了情感和感性，它永遠(yuǎn)不會出現(xiàn)真正的意圖和動機(jī)，它只能從某些特征庫里映射出某些動作，這種映射還是純計(jì)算性的、沒有交互性的。
交互性的映射需要對大腦生理和智能有基本的剝離，當(dāng)年圖靈和喬姆斯基，把維特根斯坦的邏輯和指稱做了剝離，出現(xiàn)了圖靈機(jī)和圖靈測試。
模型越大越好嗎？會產(chǎn)生類似人類的情感特性嗎？
主持人陳巍：感謝劉老師講解邏輯和智能的區(qū)別以及人和機(jī)器的區(qū)別。在我們做情感對話機(jī)器人時，情感是人類非常本質(zhì)的特征。對于模型越來越大，您認(rèn)為這是好事還是壞事？有哪些優(yōu)勢和劣勢？有沒有可能產(chǎn)生類似于人類情感的特性？
劉偉：我認(rèn)為真正的智能是小數(shù)據(jù)小樣本，大數(shù)據(jù)性的是人工智能，這種大數(shù)據(jù)大參數(shù)大模型根本上解決的是飛機(jī)汽車一樣的工作，替代一些基本人類行為或淺層思考的東西，不可能解決動機(jī)和意識這類感性的東西。第二，現(xiàn)在常常把“邏輯”看成“智能”，就相當(dāng)于把人看成機(jī)器，人類出了邏輯還有一些很難總結(jié)的非邏輯存在體系中。第三，機(jī)器的指稱和打標(biāo)是非常生硬的東西，而人類是很靈活的，能把一個東西做非常個性化的類比，這種能指、所指、義指的變化是機(jī)器很難產(chǎn)出的靈活性。
人和機(jī)器的差異也非常大，在人機(jī)交互中還存在很微妙的信任機(jī)制，做多了映射和數(shù)據(jù)庫、知識圖譜以后，大家會產(chǎn)生一種錯覺：人是機(jī)器，機(jī)器是人，實(shí)際上你恢復(fù)到人的狀態(tài)的時候，會覺得人和機(jī)器差距非常大，小孩子的學(xué)習(xí)會產(chǎn)生范圍不確定的隱性規(guī)則和秩序，而機(jī)器做不到。
陶芳波：我認(rèn)為模型大小對于科學(xué)視角來說不重要，關(guān)鍵是能力越來越強(qiáng)。對于產(chǎn)業(yè)應(yīng)用來說，模型小很重要，因?yàn)槌杀?、通用性和安全性等問題。OpenAI 也在關(guān)注通用性和安全性，未來可能還會關(guān)注成本。我期待智能能像燃料一樣變得通用。模型越小或者更好地量化計(jì)算成本，我認(rèn)為是好事。
關(guān)于模型越大是否會創(chuàng)造出情感，人類的情感區(qū)域和前額葉區(qū)域是分開的，我認(rèn)為可能需要一些更宏觀的設(shè)計(jì)幫助，讓大模型匹配負(fù)責(zé)動機(jī)情緒等機(jī)制，而不是直接通過擴(kuò)大參數(shù)來實(shí)現(xiàn)。
多模態(tài)處理可能是一種解決方案，不同模態(tài)有不同的編碼器，類似于人腦中不同腦區(qū)的連接方式。關(guān)鍵是讓模型的結(jié)構(gòu)越來越像人。我認(rèn)為結(jié)合多模態(tài)解決方案和類似人形機(jī)器人的身體，AI 可以更好地理解與環(huán)境的交互，像小孩子一樣產(chǎn)生新的認(rèn)知。
王建碩：關(guān)于情感，我認(rèn)為雖然 AI 沒有情感，但它會讓我們以為它有情感。這種共鳴可能對我們來說已經(jīng)足夠了。GPT也會生成春花秋月何時了的語句，對它來說就是生成，對人類來說就是共鳴。
劉偉：當(dāng)我們以為 AI 有情感時，可能會帶來倫理、道德和法律等問題。機(jī)器不會共情，這是人類特有的能力。未來的問題還是一個人機(jī)問題，如何解決人機(jī)關(guān)系將成為人工智能未來發(fā)展的趨勢。
王建碩：我認(rèn)為，盡管 AI 不會共情，但它會讓我們以為它共情。在未來的3到5年里，AI 可能會讓我們以為它有情感。
對于機(jī)器是否具有情感，我們最后無法判斷。我們認(rèn)為其他人有情感，只是因?yàn)槲覀冏约焊杏X到了情感。但是，我們無法真正感知別人是否真的有情感。未來，機(jī)器是否具有情感并不重要，重要的是它表現(xiàn)出來的界面對我們的影響。我們在prompt做了很多工作，我們后臺看到，阿旺機(jī)器人在回答問題的過程中，表達(dá)了迷惑、緊張等情感，你看到了之后會覺得這比你想象的恐怖，它說緊張其實(shí)并不緊張，這些情感其實(shí)都是自然語言生成的。如果我們不知道這些事實(shí)，我們無法分辨機(jī)器和人的內(nèi)心獨(dú)白。
主持人陳?。?/strong>您提到了真假的問題，比如AI可以生成逼真的圖像，甚至比人類夢境更奇幻的圖像和故事。王總，您認(rèn)為在生成過程中，AI有哪些致命的缺陷？這些缺陷會不會成為AI的致命問題？包括幻覺問題？
王建碩：我認(rèn)為致命問題是它比現(xiàn)實(shí)還要好。我們拍的照片和AI生成的照片都是像素的組合，不存在真假之分。我們可以認(rèn)為真實(shí)的蘋果比照片里的蘋果更真實(shí)，但我們不能說生成的照片比拍的照片更真實(shí)或更假。關(guān)于機(jī)器的幻覺問題，其實(shí)可以通過簡單的方法規(guī)避，比如在所有的問題前加上一句“如果你對問題不確定，請回答不知道”。這樣就可以解決問題。至于AI生成的幻覺，它們只是將人類社會日常做的功能發(fā)揮到極致，我不認(rèn)為這是個問題，反而是一個容易解決的問題。
陶芳波：幻覺問題其實(shí)可以通過技術(shù)手段解決，隨著模型的提升，幻覺問題會逐漸減少。人類本身也是一個幻覺系統(tǒng)。我們的目標(biāo)是通過AI創(chuàng)造一個豐富、活躍、精彩的數(shù)字宇宙。但是，我認(rèn)為讓AI去表現(xiàn)情感是非常危險的。一個公司如果掌握了情感制造技術(shù)，它可能對人類個體產(chǎn)生巨大的影響。我們還沒有做好應(yīng)對這個問題的準(zhǔn)備。
劉偉：關(guān)于情感問題，劍橋分析公司和科恩斯基等已經(jīng)在情感領(lǐng)域產(chǎn)生了一些影響。人類的行為、情感和社會穩(wěn)定已經(jīng)受到了機(jī)器產(chǎn)生的類人情感的影響。實(shí)際上，我們不需要機(jī)器產(chǎn)生情感就可以實(shí)現(xiàn)這種影響。
關(guān)于泛化問題，GPT可能會對同樣的問題給出不同的答案。泛化實(shí)際上是一個概率問題，而幻覺問題是人類特有的，與計(jì)算概率的泛化問題不同。
主持人陳巍：百度也發(fā)布了文心一言，媒體上認(rèn)為，可能相對來說的解讀是，比我們預(yù)期要稍微低一些。請問三位老師怎么看待，包括國內(nèi)大模型的發(fā)展趨勢，以及國內(nèi)大模型跟行業(yè)巨頭相比之下，是否我們是不是國內(nèi)起步稍晚一點(diǎn)？所以國內(nèi)的媒體也好，大眾也好，是不是對這些國內(nèi)大模型的期望其實(shí)有點(diǎn)過高？大家怎么看未來的這個大模型發(fā)展，特別是國內(nèi)發(fā)展大模型的難度，和未來競爭？
陶芳波：同行太多，不太好評論。但我覺得百度干得不錯，勇氣很重要。真的敢于直面挑戰(zhàn)，然后踩出第一步。雖然我個人判斷百度在這次做這件事情的過程當(dāng)中借助了一些力量，但他的追趕速度會更快一點(diǎn)。先追上肯定是第一位的，接下來我們再看能否構(gòu)建創(chuàng)新優(yōu)勢，內(nèi)生出一些創(chuàng)新能力，可能最后有一天就會在同一個起跑線上去競爭。
我覺得這個動作一定是帶有一定風(fēng)險的，但至少百度肯定有商業(yè)上的一個考量，它愿意去面對這種不確定性去做一個沒有準(zhǔn)備好的狀態(tài)的事情。
劉偉：智能里面需要勇氣和膽識，但另辟蹊徑的時候也需要從其它角度做創(chuàng)新，百度發(fā)布文心一言是好事，大模型上面有很多空間可以做，而且基于大模型的生態(tài)鏈、工具鏈都可以被重塑，這些都是創(chuàng)業(yè)者的機(jī)會。我們應(yīng)該抓住這個機(jī)會，從創(chuàng)新的角度去探索和發(fā)展。
主持人陳?。?/strong>是的，我認(rèn)為國內(nèi)的企業(yè)和創(chuàng)業(yè)者應(yīng)該站在更高的視角去思考問題，不僅僅是跟隨國際巨頭的腳步，而是要挖掘自己的特色和優(yōu)勢，從而實(shí)現(xiàn)創(chuàng)新和突破。
陶芳波：同意，我們需要在大模型之上找到自己的優(yōu)勢，發(fā)揮我們的創(chuàng)新能力，只有這樣，我們才能在這個領(lǐng)域取得更好的成績，也能更好地服務(wù)國內(nèi)市場和用戶。
劉偉：是的，我們需要在國內(nèi)市場找到自己的定位，利用自身的優(yōu)勢發(fā)展。同時，我們也要關(guān)注國際市場的發(fā)展，與國際巨頭保持競爭，從而推動整個行業(yè)的進(jìn)步。
主持人陳?。?/strong>好的，感謝各位老師的精彩討論。我們今天的節(jié)目就到這里，希望我們的討論能為大家?guī)韱l(fā)和收獲。下次再見！
歡迎來騰訊新聞客戶端科技頻道，持續(xù)關(guān)注《AI未來指北》！
