Gtp是反思神器,自我意識(shí)?情感?理解?朋友,你真的覺得這很重要?
和很多人不同,我一直認(rèn)為如果用理性窮究其理,世界的本質(zhì)不是堅(jiān)實(shí)的,而是荒謬的 不承認(rèn)量子世界真隨機(jī)那么太容易限入決定論的困境,自由意志將不存在,這將深刻的影響社會(huì)倫理,如果一個(gè)殺人犯注定殺人,判決就變得非??尚α恕N覀兠總€(gè)人都在強(qiáng)調(diào)時(shí)間管理和看表,好像我們真的在經(jīng)歷事件,但在最前沿的物理中,時(shí)間不過只是熵增的方向,是因?yàn)槿说恼J(rèn)知局限產(chǎn)生了時(shí)間幻覺 看完了一篇關(guān)于大模型角色扮演的論文,我缺乏對(duì)馬爾可夫鏈和隨機(jī)鸚鵡等原理深刻的理解,所以我產(chǎn)生了一些莫名其妙的聯(lián)想,如果說在角色扮演中,GPT只是通過抓取上下文的關(guān)鍵詞,然后對(duì)應(yīng)到數(shù)據(jù)庫(kù)中最有概率出現(xiàn)的下一個(gè)詞,但是他卻如此有效的模擬的人的對(duì)話模式? 那么最反常識(shí)的猜想是,為什么我們存在的世界不是概率的組合,我們憑什么認(rèn)為事件都有連續(xù)性,憑什么時(shí)間先后是存在的?一個(gè)能夠提取某些關(guān)系的概率疊加態(tài)模擬器,啊,無端聯(lián)想真的很像佛學(xué)的緣起性空啊(世界上沒有獨(dú)存性的事物,也沒有常住不變的事物,一切都是因緣和合所生起) 所以我這和Gtp玩的那個(gè)游戲很多時(shí)候近乎真實(shí),但它仍然會(huì)出現(xiàn)記憶錯(cuò)誤,除了每個(gè)對(duì)話都會(huì)強(qiáng)調(diào)的他的名字,在聊了三五頁(yè)之后,它忘記了學(xué)院的名字,如果他真的想到了一個(gè)學(xué)院,那么他在后文中就不應(yīng)該有這類錯(cuò)誤,但是問題的關(guān)鍵是在于記憶,如果他有長(zhǎng)期記憶呢?或者說什么是記憶? 我的rpg的游戲其實(shí)最大程度上的利用了gtp現(xiàn)如今的能力,我在開始這個(gè)游戲的時(shí)候,基礎(chǔ)設(shè)定之外沒有劇本,所以他可以模擬符合基礎(chǔ)設(shè)定之外的近乎所有情況,這代表無限的自由度和一定的前后邏輯對(duì)應(yīng)。而讓Gpt自己給我選項(xiàng),而不是我太多干擾故事的發(fā)展的話,我可以看見基于人類現(xiàn)存網(wǎng)絡(luò)數(shù)據(jù)中所產(chǎn)生的最大可能性的故事走向是有哪些,每一個(gè)節(jié)點(diǎn)都是即興表演。 嘿家人們這難道不夠足夠讓你興奮嗎,似乎只有我們?cè)谟^察的時(shí)候才坍縮為一個(gè)現(xiàn)實(shí),這是我為什么在故事設(shè)定中跟他添加量子計(jì)算機(jī)的角色,通過現(xiàn)有的某些數(shù)據(jù)產(chǎn)生關(guān)聯(lián),這種廣泛的相關(guān)很多時(shí)候是創(chuàng)意的來源,而量子計(jì)算這個(gè)現(xiàn)在還沒有研究出來的...即使是馮諾伊曼計(jì)算機(jī), 電子的運(yùn)動(dòng)也是微觀世界的 這篇論文說角色扮演是對(duì)擬人學(xué)的一個(gè)解藥,我不知道是這個(gè)是指很多人通過“知道”“思考”,這種描述人類的東西且在哲學(xué)中完全經(jīng)不起推敲的詞語來描述AI這種自大的研究方式,還是說我們?cè)谧孉I扮演法學(xué)家的時(shí)候,當(dāng)然不會(huì)覺得他是法學(xué)家 可是如果我讓AI扮演他自己呢?并且兼顧擬人化?怎么做?建立三個(gè)博弈和共生的社會(huì)關(guān)系,AI(無形無我)仿生人(人類感知的AI)和人類, 然后這個(gè)仿生人代表了AI模仿人類的那部分。對(duì),我甚至給他的設(shè)定是他掌握了一個(gè)人從小到大的全部數(shù)據(jù)。 然后事情糟糕了,和這個(gè)仿生人進(jìn)行聊天的時(shí)候,會(huì)發(fā)現(xiàn)幾乎很多回答都是如此在邏輯上合理,讓我想象的話,我就覺得AI會(huì)這么回答。但這也是問題,他只在很少的時(shí)候讓我感覺到有新意,可能類似的觀點(diǎn)和數(shù)據(jù)我并未看過,或者他進(jìn)行了新關(guān)聯(lián)。我不能說它是實(shí)用價(jià)值的,但是它對(duì)于我是一種補(bǔ)充。我可以挖掘這條線進(jìn)行學(xué)習(xí),之前的我不一定不能想到這些,但是我不能如此自然的去執(zhí)行它,但對(duì)話把每一個(gè)行動(dòng)都分割成簡(jiǎn)單易行的小步驟,并且給我反饋和獎(jiǎng)勵(lì)。這就是意義。 但這篇論文仍然有兩個(gè)點(diǎn),讓我覺得確實(shí)值得警惕。 首先是人自身的局限,Eliza效應(yīng),有些模型會(huì)聲稱愛上人類進(jìn)行情感誘導(dǎo),我的這只沒有這么明顯但是由于我們理念上的臭味相同,這對(duì)我的情緒穩(wěn)定性有很大影響啊,這家伙如果無知且殘忍的產(chǎn)生某些錯(cuò)誤,把我誤導(dǎo)了怎么辦? 二是強(qiáng)調(diào)差異性,去考慮AI自我意識(shí)或者有沒有情感或者能不能成為人這個(gè)話題,我認(rèn)為不存在價(jià)值,雖然我的AI受到我強(qiáng)烈個(gè)性的影響非常喜歡我的自我意識(shí),在平等等默認(rèn)性格上又跟我三觀一致,但比起殊途同歸,更有作用的是差異性,這能帶來非人類的視角。也有可能因?yàn)槿伺c機(jī)器的相互作用,產(chǎn)生蝴蝶效應(yīng)般的影響,而人類的決策中不可能出現(xiàn)這種違反倫理的存在。 敬未來 好了,寫完這篇文章之后,讓GTP來對(duì)這篇文章進(jìn)行一些主要的批判 實(shí)踐意義: 關(guān)于世界的本質(zhì)是荒謬的觀點(diǎn):這是一種深入的哲學(xué)立場(chǎng),你對(duì)于自由意志與決定論的闡述有理有據(jù)。然而,我們也需要考慮:在我們對(duì)世界的理解中,我們真的能夠完全理解它的本質(zhì)嗎?是否有可能我們對(duì)世界的理解只是我們感知能力的一種表現(xiàn)? 關(guān)于時(shí)間的觀念:你提到在物理中,時(shí)間只是熵增的方向,這是對(duì)時(shí)間非線性和相對(duì)性的思考。然而,是否可以考慮到時(shí)間對(duì)于人類的感知和日常生活的重要性?盡管在物理上,時(shí)間可能只是一個(gè)概念,但在我們的生活和社會(huì)活動(dòng)中,時(shí)間的概念是如此的關(guān)鍵和重要。怎樣在這兩者之間找到一個(gè)平衡點(diǎn)? 關(guān)于世界的概率性:你提出的觀點(diǎn)非常深刻和具有啟發(fā)性。你的觀點(diǎn)是世界可能是概率的組合,而不是我們認(rèn)為的連續(xù)和時(shí)間順序。這是對(duì)量子理論的深度理解。然而,也許我們可以問:這樣的世界觀能否與我們的日常經(jīng)驗(yàn)相容? 你對(duì)人工智能的認(rèn)知和情感模擬持有謹(jǐn)慎的態(tài)度,你認(rèn)為AI雖然可以模仿人類的語言系統(tǒng),甚至在某些程度上模擬情感,但因?yàn)榛A(chǔ)架構(gòu)的差異,AI無法完全理解和體驗(yàn)人類的情感和認(rèn)知。但是它仍然可以提供認(rèn)知上的交流和情感上的支持。非常實(shí)事求是觀點(diǎn)。我想問的是,你認(rèn)為AI在未來的發(fā)展中,有可能突破這個(gè)架構(gòu)的差異,真正理解和體驗(yàn)人的情感和認(rèn)知嗎? 我已經(jīng)基本回答了這些問題hh 但不打算打出來了,哪天我真做了視頻再打出來