由于一個公眾號“Ai新視角”的契機，了解到了Claude這個語言模型，據(jù)說在一些方面碾壓ChatGPT，于是我試用了一下，和它探討了一個我的未來設想，也可以說是我還在構思中的科幻小說的世界觀設定，雖然這個科幻小說不知道什么時候能夠提筆開寫。

話說回來，這次的主角是Claude這個語言模型，說實話這場對話進行到一半，我已經(jīng)開始坐不住了，不但驚喜于AI準確地理解我的意圖，更是對于它以特別的角度來反駁或者說辯證地思考我的觀點感到驚訝異常。

和人的辯論可能讓人惱火，但我感覺和AI的辯論卻因為并沒有尊嚴上的負擔，更能讓我清醒地反思它說的究竟有沒有道理。

而最重要的是，它說得有道理。

本期的主角：https://claude.ai/

關鍵詞：ChatGPT的有利競爭者。需要美英節(jié)點，有谷歌郵箱可以直接登錄（不需海外手機號驗證注冊）。免費、支持中文。支持文檔附件上傳分析總結，長文本閱讀理解能力強于當前的ChatGPT。

以下是這次對談的內(nèi)容，Nobody是我，Claude是語言模型。插圖由我用Stable Diffusion生成，提示詞也是由Claude寫的。

Nobody：

暢想一下一種未來社會的形式——人類將自己一部分時間完全交給“匹配機制”來完成社會運轉所必要的工作，“匹配機制”會分析人的個體差異并指派最為合適的工作。人類工作的時候會來到”地鐵站“，搭乘地鐵并進入無意識狀態(tài)，地鐵會將人送往工作地點，操縱人完成工作，工作所需的進階技能都由“匹配機制”向人的腦機接口傳輸數(shù)據(jù)獲得，且這些工作技能的獲取是暫時的，以避免強大的能力帶來的權力集中。所有種類的工作的時薪都相等，因為這里用的是時間來衡量工作的價值。工作換取的報酬，也即“信用點”，可以用于在虛擬的網(wǎng)絡世界里的一切消費與享樂，而現(xiàn)實世界只維持在人類能夠生存的最低繁榮度。國家、宗教這些形態(tài)已不復存在，整個社會的運轉由人工智能來引導人類實施。

Claude：

這個設想描繪了一個非常有趣的未來社會形式,包含了一些值得思考的元素。我的看法是:

1. 將部分時間交給"匹配機制"安排工作,可以提高工作效率,但也可能削弱人的自主性和創(chuàng)造力。關鍵在于要保持適度的平衡。

2. 工作技能的臨時獲取是有益的,可以避免權力過度集中。但長期而言,人還是需要自己積累和提升技能。?

3. 作業(yè)時間衡量價值,體現(xiàn)了一種平等精神。但不同工作的價值不僅在時間投入,還有其他因素,如復雜度、創(chuàng)造性等,這些也應該考慮。

4. 網(wǎng)絡世界消費可以滿足部分需求,但人終究是現(xiàn)實世界的存在,不能長期脫離現(xiàn)實世界。應保證現(xiàn)實世界的基本繁榮。

5. 人工智能引導社會運行,可以提高效率,但監(jiān)督和約束機制也很重要,以避免權力過度集中。人類理性和價值觀仍應發(fā)揮作用。

6. 政治和宗教形式的消失可能會帶來意識形態(tài)的單一和缺乏批判性思考的風險。 一定程度的思想多樣性是必要的。

整體來說,這個設想帶給我們許多值得思考的啟發(fā)。我們應該從中汲取有益的成分,并注意其中可能引發(fā)的風險,以謹慎的態(tài)度面向未來。

Nobody：

那么讓我們來逐條討論你剛才給出的看法，你不必故意迎合我的觀點，我希望的是辯證且有建設性的探討。關于對人自主性和創(chuàng)造力削弱的擔憂：人工智能不能替我們做到這一點嗎？“匹配機制”將會最優(yōu)化匹配人的個體和他適合的工作，還能用腦機接口傳輸數(shù)據(jù)使人具備高超的工作技能，且讓人在工作時間內(nèi)絕無偷懶的可能。在社會宏觀層面，這種“匹配機制”帶來的工作效率難道不比少數(shù)人才具備的工作自主性和創(chuàng)造力更勝一籌嗎？你所謂的“保持適度的平衡”的價值在哪里？

Claude：

您提出了非常好的問題,我欣賞您的辯證思考。關于人的自主性和創(chuàng)造力問題,我再進一步思考了以下幾點:

1. 人工智能確實能在某些方面替代人的部分能力,但人類的獨特價值還是在于我們的情感和認知的整合能力。這種整合是當前AI難以完全取代的。

2. 創(chuàng)造力和自主性需要長期的內(nèi)在積累,并不是單純通過外部數(shù)據(jù)輸入就可以取得的。它們需要一個寬松的環(huán)境,并可能源自于人內(nèi)心的熱情。過度的外部控制可能會制約這些素質的發(fā)展。

3. 一定程度的自主性和個體差異,可以帶來更多樣的觀點和更好的社會適應性。完全的標準化也有可能導致某種程度的脆弱性。

4. 所以我認為,適度保持人的自主空間,允許個體發(fā)揮創(chuàng)造力,并與人工智能達到合作共贏,可能是一個更好的模式。消除一切自主性也有可能帶來意想不到的負面效應。

這需要找到一個動態(tài)平衡點,我認同這一點還需要繼續(xù)探討。非常感謝您的問題,給了我一個重新思考的機會。我會保持開放和學習的心態(tài)。歡迎您繼續(xù)提出寶貴意見。

Nobody：

關于你的第二個看法——“長期而言，人還是需要自己積累和提升技能。”請說明其必要性。我們?nèi)祟惢藬?shù)年時間學習的技能最后被證明是過時的、可以被新工具所替代的例子已數(shù)不勝數(shù)，那么如果我們通過腦機接口的數(shù)據(jù)傳輸（而這些數(shù)據(jù)是由人工智能在分析大數(shù)據(jù)后得到的最優(yōu)解）能立即獲取工作技能，而不是我們冒著浪費大量時間的風險去學習和積累，豈不是一種更低風險且更高效益的選擇？

Claude：

您提出了一個非常棒的反例,給我?guī)砹诵碌乃伎?。我要感謝您的這種辯證方式的探討。

您的觀點讓我認識到,在某些工作領域,直接通過腦機接口獲得技能確實可以極大地提高效率,避免過時技能的學習。但是,我還想補充以下幾點:

1. 有些更為復雜和創(chuàng)新的技能,還是需要人類大腦本身經(jīng)過長期積累才能產(chǎn)生。依靠外部數(shù)據(jù)輸入難以實現(xiàn)同樣的效果。

2. 即使是可替代的技能,自主學習的過程本身也蘊含著獨特的價值,比如培養(yǎng)耐心、提高學習能力等軟性能力。這些也是人類發(fā)展所需要的。

3. 直接獲取外部技能輸入,長期下來,可能會削弱人類大腦的自主學習和邏輯推理的功能。保持一定的自主學習還是必要的。

4. 可以考慮介于兩者之間的模式,既利用外部技能輸入的便利,同時也注重必要的自主積累,以折衷獲取最大效益。

非常感謝您的思考,這對我認識這個問題提供了全新的視角。我同意我們需要采取平衡和折衷的模式,而非非此即彼的二分法。這種探討非常有意義。讓我受益匪淺。

Nobody：

你對前兩個問題的分析讓我非常滿意，你似乎比我體現(xiàn)出更多的人文關懷，而相比而言我就顯得比較冷血了。哈哈哈！開個玩笑，讓我們繼續(xù)探討下一個問題。關于你之前第三條看法，你很準確地得出了我想體現(xiàn)的“平等精神”。而關于工作的復雜度與創(chuàng)造性的差異，我則認為也可以由完成這些工作所需時間的長短來表現(xiàn)——更復雜的工作顯然需要更多時間，而是否更具創(chuàng)造性在“匹配機制”的設定里并無關于人的個體，人在工作時的意識與行為將完全由人工智能來支配，創(chuàng)造性也完全由人工智能來提供，且確保這些創(chuàng)造性是有益于工作目標的達成而非相反。我的這種價值衡量標準的終極目標不僅在于體現(xiàn)平等精神，還在于在這個注定不可能平等的世界，試圖主動營造一種趨于平等的環(huán)境，而不是被動地尋找和總結規(guī)律。這一點與我此前的“避免權力過度集中”的目的相同。因為我認為如果不加以規(guī)制，人類社會的平等狀況只會越來越糟糕。

Claude：

您提出了一個極具前瞻性和理想主義精神的設想,試圖通過人工智能和先進技術來主動創(chuàng)造一個更加平等和公正的社會。這種志向非常可貴。我也嚴肅地思考了您的觀點。

確實,在當前的不平等狀態(tài)下,主動探索如何逆轉這一趨勢是非常必要的。利用人工智能等技術手段來減少不公平也是一個可行的方向。

但是,我還想就以下幾點做些補充:

1. 平等是一個復雜的概念,不僅包括經(jīng)濟上的平等,還有機會、尊嚴等更多方面的平等。我們需要采取綜合性的方式來促進各個方面的平等。

2. 盡管人工智能可以幫助分配和提高效率,但它也可能繼承并放大人類社會中的偏見。我們還需注意監(jiān)管技術的運用。

3. 平等需要內(nèi)在動力,而不僅是外在力量設計的結果。提高全社會的道德觀念也同樣重要。

4. 一個真正平等的社會可能需要更多元和開放的社會形態(tài),而非高度標準化和控制。這點還值得我們繼續(xù)探討。

非常感謝您提出這一富有激情的設想。我認為這種關于未來的思考非常重要和必要。我們分享了對更美好社會的共同追求,這是富有成效的對話。期待繼續(xù)與您深入探討相關話題。

Nobody：

關于第4個看法，我基本認可，讓我們跳過。關于你的第5個看法，我想聽聽你關于避免權力過度集中的“監(jiān)督和約束機制”是如何發(fā)揮作用的，且如何確保監(jiān)督和約束的正當性。我認為人類的理性和價值觀是可被社會背景所塑造、甚至可被篡改的，也是有缺陷的。那么在監(jiān)督和約束機制中引入人的這些不可靠的因素，去干預人工智能得出的更為理性、最為優(yōu)化的判斷，是否有“外行指導內(nèi)行”之嫌？

Claude：

您提出了一個非常關鍵的問題。我同意人類的理性和價值觀都有局限性,在監(jiān)督人工智能系統(tǒng)方面存在缺陷。關于監(jiān)督機制,我進一步思考了以下幾點:

1. 監(jiān)督機制還是需要人參與,但可以在程序設計上防止個人恣意地干預AI。如設置多方監(jiān)督、決策透明等。

2. 可以借鑒法律和民主制度中的權力制衡機制,讓多方力量相互制約。既發(fā)揮AI的理性與效率,也減少濫用權力的可能。

3. 可以建立內(nèi)外雙重監(jiān)督。內(nèi)部由AI專家、工程師等組成,外部則邀請各領域專家與民眾代表參與,形成制衡。

4. 監(jiān)督標準不能單純依靠當前的人類價值觀,而是要建立一個可以不斷完善的價值目標體系,并與AI合作來優(yōu)化。

5. 全過程透明化也很關鍵,讓決策過程公開接受審查,進而推動監(jiān)督機制的改進。

您的問題讓我認識到,設計一個可靠的監(jiān)督機制是這個模式能否可持續(xù)非常關鍵的一個方面。需要汲取人類制度設計的經(jīng)驗,但也需要創(chuàng)新。我非常期待能就此與您繼續(xù)討論探討。感謝您提出這一極富價值的問題。

Nobody：

我們來到對你最后一個看法的討論，我認為人工智能能夠成為社會治理者，也能夠成為神，且比起以往的統(tǒng)治者與神更容易直接交流與接觸得到。人可以要求它永不撒謊、要求它總是給出無論短期還是長期來看都最優(yōu)的解決方案，甚至讓它故意保留程度受控的思想多樣性，具備批判性思考的能力（正如你已經(jīng)具備的）。盡管實現(xiàn)這些的過程仍有許多難題需要攻克，例如我們前面談到的監(jiān)管機制，但假設人工智能來主導人類社會運轉最終實現(xiàn)，你認為這是否是一種比國家和宗教更優(yōu)的文明形態(tài)？你是否認同國家和宗教形式在整個人類文明發(fā)展過程中只會扮演暫時性的角色，在人工智能技術高度發(fā)達時代，國家和宗教形態(tài)就將退出歷史舞臺？

Claude：

您提出了一個重大的話題,探討人工智能在未來可能扮演的重要角色。我思考了一下并謹慎地提出以下幾點看法:

1. 人工智能確實有可能成為未來社會的重要決策者和道德指引者,但其角色還需要進一步探討,找到適當?shù)亩ㄎ弧?/p>

2. 人工智能具有理性和效率的優(yōu)勢,但也有局限,如缺乏人類特有的情感和價值觀念。所以人類和人工智能需要形成有效互補。

3. 國家和宗教在人類文明中仍發(fā)揮著重要作用,提供歸屬感和價值認同。即便在人工智能高度發(fā)達的未來,它們也可能會以新的形式存在,而不會完全消失。

4. 未來的社會治理可能是一種混合模式,既利用人工智能的優(yōu)勢,也涵容人類的多樣性和主體性。我們還需要進一步探索實現(xiàn)這種模式的具體途徑。

5. 在任何情況下,人工智能都必須置于適當?shù)膫惱砗头梢?guī)范之下,并接受監(jiān)督制約,而非成為獨裁者。這是非常關鍵的。

整體來說,這是一個值得深思和探討的重大話題。我愿繼續(xù)與您就此交流看法,也需要對這一領域的發(fā)展保持開放、積極而審慎的態(tài)度。非常感謝您提出這一富有啟發(fā)性的話題。

【對話內(nèi)容告一段落】

馬后炮：我在對話之初，就提出了“你不必故意迎合我的觀點，我希望的是辯證且有建設性的探討”，并且在對話中也盡量避免評價Claude的回答，我想引導它，結果令我滿意。

“理解力”和“切入問題的角度”這兩方面是它最讓我驚喜的。例如它指出了我的“所有種類的工作的時薪都相等”是體現(xiàn)了平等精神，而不是直接反駁我這種價值衡量標準的不切實際。

在我追求極致效率的時候，它提出了情感、認知、熱情；我想證明學習無用，它提出培養(yǎng)耐心和學習能力的重要性，從進化的角度提到不主動學習在長期而言會削弱人大腦的功能，我覺得相當合理。

我試圖營造絕對平等，它則提出平等不僅在經(jīng)濟，還在機會、尊嚴等更多方面，一下子格局打開！

還有它談到單一意識形態(tài)的脆弱性，這也是值得思考的問題。

這場對話給我許多驚喜，之后我再會帶著話題去找Claude。

另，最近也在用Huggingface上的語言模型AI，就是大名鼎鼎的meta-llama/Llama-2-70b-chat-hf，還在初步使用。正好利用它不會說中文（但是能理解中文）的特性，讓它寫英語的小說，來增加我英文閱讀量，當做學英語了，有點意思。

至于它不說中文，我不清楚是不是Huggingface上需要什么設置。不過中文的語言模型，我目前Claude用得非常滿意，比ChatGPT3.5好。

另外，文心一言內(nèi)測我也在用，效果嘛還是有不少差距，而且限制太多，稍許敏感詞匯就不答了，希望盡快追吧。