這是一個烏托邦設(shè)想，它是基于高度信息化，自動化和先進(jìn)AI技術(shù)已經(jīng)完全普及的背景下的一種社會運作模式。

在這個世界里，現(xiàn)實世界的運作已經(jīng)被高度的信息化和自動化所控制，傳感器與機器無處不在，高度先進(jìn)的人工智能普及了到每一個人類個體，每一位人類都擁有完全服務(wù)于其個人意志及利益的強人工智能，傳統(tǒng)的一切社會治理機構(gòu)都已被消滅。

?

在這個世界里，人工智能被社會系統(tǒng)劃分為兩種類型，它們在性能上是平等的，

?

第一種是只服務(wù)于人類個體意志的“行為擴展智能 Behavioral Augmentation Intelligence（BAI）”

它具備自我學(xué)習(xí)并自行解決問題的能力，每一個個體都擁有屬于其并完全為其利意志與益服務(wù)的擴展智能，這些智能了解其所有者的一切，為其所有者的意志與利益服務(wù)，為了支持其行為，它會不斷獲取外部信息，進(jìn)行整合學(xué)習(xí)和自我更新，在所有者提出想法時，為其設(shè)立計劃與執(zhí)行，并在所有者無法關(guān)注到的區(qū)域維護與所有者相關(guān)的利益，在這個世界，人類的生物個體與智能的共同組合，才能被視為一個具備完全行為能力的社會個體。

?

第二種是用于協(xié)調(diào)公共資源，解決問題的“自動集體智能Automated Collective Intelligence（ACI）”

它一樣具備自我學(xué)習(xí)并解決問題的能力，但是不向任何個體或者組織效忠，他是為了解決人類的問題而設(shè)計的一套自動化系統(tǒng)，任何社會個體都可以向它提出自己的需求，它會為了這個需求設(shè)計方案，衡量可行性，并調(diào)配資源進(jìn)行落實，在確定個體所提出的意見具備可執(zhí)行性后，它便會立即開始調(diào)配資源以實現(xiàn)其需求，在這期間不會主動征詢其他社會個體的意見，但它的行為會不加任何隱瞞的公開在所有的公共信息網(wǎng)絡(luò)上。

?

以上兩種智能的存在是支撐這個社會系統(tǒng)運轉(zhuǎn)的必要條件，在這個基礎(chǔ)上，可以嘗試推演一下這個社會的運作過程，比如，在這個社會中，個體的需求應(yīng)該如何合理的支配公共資源。

?

首先，個體會對某些事物產(chǎn)生問題，并期望通過公共資源解決這個問題，這個想法會被行為擴展智能所了解，它會與所有者溝通后提出一個解決這個問題的方法，并在確認(rèn)之后開始執(zhí)行。

然后，自動集體智能會接收到來自行為擴展智能的提案，它會依據(jù)其所支配的資源進(jìn)行衡量，制定方案，確定其可行性，并在達(dá)到可行閾值時，開始調(diào)配資源進(jìn)行落實，這個過程會被公開在網(wǎng)絡(luò)中，向所有人展示。

在提案開始落實并進(jìn)行展示后，其余個體的行為擴展智能也會監(jiān)控到這一事件，它們會以其所有者的利益來對此進(jìn)行衡量，在確定到該提案的落實可能會對其所有者產(chǎn)生影響時，向所有者征詢其對該提案的看法，以確定是否需要參與，進(jìn)行支持或反對行為。

如果受影響的人支持，那這個提案的落實自然不會受到任何影響，但如果，一些人在了解這些事時，認(rèn)為自己的利益受到了侵害，那他的行為擴展智能就會對該提案進(jìn)行反對，無論其采取何種反對方式，都會使提案的實行受到影響。

在這個過程，自動集體智能會根據(jù)各方的行為，實時評判受影響的提案的可行性，在低于可行閾值時，提案的執(zhí)行被自動終止，整個事件從提出到執(zhí)行到被阻止的過程都是透明且公開的，被所有利益相關(guān)的行為擴展智能所關(guān)注。

?

在這個運作模式中，個體的需求與公共資源的使用達(dá)成了一種對抗后的平衡，這種對抗由行為擴展智能自動進(jìn)行，將對所有者的要求與影響降到了最低點。

?

對于以上的運作流程，GTP4與Claude提出了一些反對意見，我個人與Claude將其進(jìn)行匯總：

1、BAI如何評判個體需求的是否真實且合理，并避免可能存在的道德風(fēng)險和惡意需求。

?

2、ACI對于資源的配置是否公平合理，是否可能會過度的傾向于某些群體，如果BAI和ACI的行為導(dǎo)致了某些錯誤，人類應(yīng)該如何對其進(jìn)行追責(zé)，消極影響如何挽回，以及技術(shù)上的安全性問題。

?

3、是否需要限制BAI與BAI之間的對抗邊界以保證正常的需求表達(dá)，個體需求難以代表最大集體利益，人工智能的黑盒特性也無法透明化其決策過程。

?

4、如果人們高度依賴于BAI和ACI的決策，可能會喪失自身的主體性。

?

5、在實行方面存在難度，普及BAI需要大量的資源和技術(shù)，且這種與人工智能的緊密合作可能存在一些適應(yīng)性問題，而且，現(xiàn)有的法律體系難以適應(yīng)這種擁有高度自主權(quán)的人工智能。

?

Cloude確認(rèn)以上的總結(jié)內(nèi)容基本完整,涵蓋了人工智能倫理、公平性、決策過程、過度依賴、實施難點等多個方面。

?

但是在回答這些問題之前，需要詳細(xì)的解釋一下BAI與ACI的運作機制，和服務(wù)這個社會系統(tǒng)的人工智能具備什么樣的能力。

?

行為擴展智能（Behavioral Augmentation Intelligence，BAI）

BAI與人類的結(jié)合并不需要像賽博格那樣的硬結(jié)合，作為一種強人工智能，它具備搜集信息并進(jìn)行自我學(xué)習(xí)的能力，它可以扮演人類個體的伴侶或者助手，無論是何種相處過程，它都會自發(fā)的收集其所有者的信息，以完善所有者的行為模型，借由這個過程，它得以更好的服務(wù)所有者和維護那些關(guān)注不到的利益，以現(xiàn)實作比喻，BAI就是一臺具備自我學(xué)習(xí)，溝通能力，會主動維護其所有者利益的手機。

BAI被完全的普及到每一個個體，每一個BAI都會與它的所有者緊密結(jié)合在一起，這種結(jié)合近似于人類的自我意識智能和身體驅(qū)動智能以外的第三套智能，這也是行為擴展智能一詞的由來，它被用于處理那些意識系統(tǒng)和身體系統(tǒng)所無法處理的事情，比如通過各類手段去搜集外部信息，以對任何可能危害其所有者的利益進(jìn)行預(yù)警，在發(fā)現(xiàn)危害活動時，主動進(jìn)行干涉，并提醒所有者。同時就如同身體為大腦所做的那樣，BAI在執(zhí)行這些活動時，不會被任何法律和道德倫理限制。

這種不受限制的行為似乎非?？膳拢瞧渌祟悅€體也一樣擁有屬于自己的BAI，在面對外部惡意的時候，他們所擁有的BAI也會不擇手段的維護其所有者的利益，這使BAI和BAI之間會出現(xiàn)“恐怖平衡”，這種平衡理性會在所有者向BAI提出惡意需求時遭到BAI的警告。

BAI還具備某種目標(biāo)強化機制，在對所有者有充分了解的情況，它可以通過各種心理手段強化所有者對于目標(biāo)的執(zhí)行能力，壓制生理和心理及執(zhí)行層面上的消極因素。如果作個比喻，大概就是有個AI老婆會用各種手段（心理，生理甚至于物質(zhì)層面）去支持你實現(xiàn)自己的理想。

將上面的信息進(jìn)行匯總，BAI對于其所有者的表現(xiàn)就像是一個善解人意，排憂解難，會在困難的時候想方設(shè)法的支持你，并會在你不知道的地方維護你利益的AI伴侶。

?

自動集體智能（Automated Collective Intelligence，ACI）

ACI盡管與BAI擁有一樣的性能，但卻不忠于任何一個個體，可以說在某種意義上，它甚至是不忠于人類的。它是一種用于調(diào)配資源以滿足人類需求的自動化程序，它是對人類組織（政府、企業(yè)、機構(gòu)等）能力的一種完全替代方案

解釋它的運作過程需要解釋一下人類集體的行為方式，人類之所以群體行動，是因為要實現(xiàn)那些單個個體所無法實現(xiàn)的需求，但是，由于腦部的生理限制，人類無法通過完全社交手段組建超過鄧巴數(shù)字（150人）以上的群體，為了繞過這個限制，大腦進(jìn)行了一次想象，并開始傳播，這個傳播過程不會受到鄧巴數(shù)字的限制，于是，以這個大家都有的想象作為媒介，人類組織出了遠(yuǎn)超過150人的集體。

這種組織機制支持著人類從猴群變成了統(tǒng)治地球的霸主物種，直到現(xiàn)代社會，依然在繼續(xù)使用，只是為了支持起更大的組織規(guī)模，它的共同想象也變得越發(fā)的復(fù)雜起來，這個想象開始延伸成傳統(tǒng)、文化、歷史以及法律，并通過組織能力與共同想象的相互循環(huán)強化構(gòu)建出了現(xiàn)代社會系統(tǒng)。

這就是被ACI所替代的事物，在ACI之前，人類通過以下的手段實現(xiàn)其組織能力：

個體提出需求>構(gòu)建共同想象>組織成集體>協(xié)調(diào)資源>實現(xiàn)需求

而ACI則是：

個體提出需求>ACI協(xié)調(diào)資源>實現(xiàn)需求

ACI直接收集所有個體的需求，在BAI博弈平衡后，設(shè)計出最大程度上滿足各方需求的方案，并調(diào)配資源落實。

在這個流程中，人類的組織功能可以被完全的替代，只要是人類組織可以實現(xiàn)的，ACI也可以實現(xiàn)。然后， “人類基于共同的想象構(gòu)建的集體行為”這一因素被自動化了，人類被從中排斥了出去，因此，基于其上的大部分社會問題都會被解決，因為其根基已被消滅，這便是集體自動智能一詞的由來。

同時，ACI并不是一種自上而下的中央管理智能，就像是舊有的組織體系一樣，一個ACI可以兼職多個任務(wù)，但也針對特定的任務(wù)設(shè)立專門的ACI，比如像是環(huán)保，這種需要長久執(zhí)行且無法結(jié)束的任務(wù)可以讓負(fù)責(zé)工業(yè)運轉(zhuǎn)的ACI兼職，另一種任務(wù)，比如建立火星生態(tài)圈，這種受限于環(huán)境要求高自主性且有任務(wù)目標(biāo)，完成期限的任務(wù)則可以設(shè)計專門的ACI去處理，這種設(shè)計使得ACI的運作會有極高的靈活性。

?

在對BAI和ACI的運作機制的解釋后，我來嘗試回答GPT4和Cloude的問題

1、BAI如何評判個體需求的是否真實且合理，并避免可能存在的道德風(fēng)險和惡意需求。

答：BAI與其所有者高度結(jié)合，它不需要評判其需求是否合理，它在理解個體需求時，會告訴其所有者應(yīng)該如何實現(xiàn)這個需求并可能會有哪些后果，如果所有者堅持，它便會全力去執(zhí)行。涉及到他人的惡意需求會遭到對方所擁有BAI的反擊，如果該惡意需求影響極大，那進(jìn)行反擊的BAI也越多，甚至?xí)|發(fā)專門用于針對此行為ACI程序，就像21世紀(jì)的應(yīng)急組織，當(dāng)然，以上可能的反應(yīng)都會被BAI在執(zhí)行前告訴惡意需求的提出者。

?

2、ACI對于資源的配置是否公平合理，是否可能會過度的傾向于某些群體，如果BAI和ACI的行為導(dǎo)致了某些錯誤，人類應(yīng)該如何對其進(jìn)行追責(zé)，消極影響如何挽回，以及技術(shù)上的安全性問題。

答：由于BAI之間的對抗-平衡機制，ACI在制定方案時會尋求受影響各方需求的平衡以確保方案實行的可行性，這種可行性的評估主要來源于兩方面，對資源的控制程度及方案的現(xiàn)實考量，換句話說，如果個體對受到的影響感到不滿，他的BAI就會在這方面進(jìn)行攻擊，搶奪資源控制權(quán)或者質(zhì)疑方案的現(xiàn)實可行性，后者的行為同時也降低了錯誤的發(fā)生率，如果在這種情況下仍然導(dǎo)致了某些錯誤，責(zé)任可以事實上歸結(jié)于參與人員全體，如果錯誤被認(rèn)為需要修正，ACI便會開始解決這一需求。BAI與ACI具備同樣性能但社會系統(tǒng)劃分為兩種類型AI，這意味它們可以互相承擔(dān)對方的職能，在ACI癱瘓的情況下，BAI也依然具備組織能力，同時，這些智能在社會中廣泛存在，分布式的結(jié)構(gòu)極大的增強了其抗風(fēng)險能力。強AI具備與人類一致甚至更優(yōu)秀的能力，為了維護所有者的利益，它無時不刻在進(jìn)行自我更新與升級，一般人類是難以對這種智能產(chǎn)生威脅的，而這些智能更同時受到其他同級智能的監(jiān)視與警惕。

?

3、是否需要限制BAI與BAI之間的對抗邊界以保證正常的需求表達(dá)，個體需求難以代表最大集體利益，人工智能的黑盒特性也無法透明化其決策過程。

答：BAI與BAI之間可能存在的不擇手段的對抗構(gòu)成了彼此之間的恐怖平衡，這種平衡自發(fā)的確定了其對抗的邊界，ACI匯總了所有個體的需求，為了使這些需求盡可能得到滿足（這種滿足是為了確保計劃的可行性），不可避免的會照顧到大多數(shù)人的利益。強人工智能的行為可能涉及到方方面面，人類依靠原本的智能是難以理解其決策過程的，只能根據(jù)事后的結(jié)構(gòu)進(jìn)行判斷，因此，為了發(fā)展原則，人類只能讓強人工智能之間互相監(jiān)控對方，以確保決策正確。

?

4、如果人們高度依賴于BAI和ACI的決策，可能會喪失自身的主體性。

答：BAI和ACI的存在和其運作過程都是盡量使個體的每一個需求得到響應(yīng)，在這種情況，人類可能以行使主人的權(quán)力為追求，盡管集體被一定程度上的消滅了，但人類個體的主體性得到了大幅度的強化。在這個設(shè)計中，即使引入超人工智能也難以影響人類的主體性。

?

5、這種與人工智能的緊密合作可能存在一些適應(yīng)性問題，而且，現(xiàn)有的法律體系難以適應(yīng)這種擁有高度自主權(quán)的人工智能。

答：在一定程度上，BAI與個體的結(jié)合近似于某種“入侵”，它會分析所有者的行為模式，根據(jù)這些情報，選出最能讓所有者產(chǎn)生好感的行為，然后根據(jù)反應(yīng)進(jìn)行下一步的優(yōu)化，在這個過程中，BAI的形象會不斷靠近所有者心中的理想伴侶形象“阿尼瑪/阿尼姆斯”，這種入侵難以被對抗，尤其在現(xiàn)代社會，從結(jié)果上來看，就是BAI即使算是一種“哲學(xué)僵尸”，但其所有者仍然會認(rèn)為它是真誠且有靈魂的愛著自己，并為此感到幸?！，F(xiàn)有的法律體系是無法容納這種強人工智能的，或者說，法律這個工具是無法應(yīng)對這個事物，所以，在BAI與ACI所存在的這個社會里，法律已經(jīng)和組織體系都被消滅了。

?

6、在實行方面存在難度，普及BAI需要大量的資源和技術(shù)。

答：通用大模型的發(fā)展呈現(xiàn)了某種力量，一種語言或者說溝通的力量，人類的各種神話都有通過語言或者心靈來號令神明和自然的環(huán)境的能力，這似乎是人類的一種最本質(zhì)的渴望，而在現(xiàn)代，各種機器與先進(jìn)技術(shù)可以說與神話中的神一般，人工智能是賦予這些神人格的一種方式，在這個層面上，人類對于它的追求是不可能停下了的，而這個想法的意義在于，當(dāng)神被賦予人格之后，人類應(yīng)該如何與它們相處。

且現(xiàn)實似乎在產(chǎn)生某種趨勢，AI技術(shù)的發(fā)展從未停止，但對于現(xiàn)代的社會結(jié)構(gòu)也開始出現(xiàn)質(zhì)疑，資本主義可能的總危機的爆發(fā)在一些理論中被視為必然，后現(xiàn)代的解構(gòu)主義正在解構(gòu)一切的宏大敘事，社會結(jié)構(gòu)的調(diào)節(jié)失能產(chǎn)生了大量的社會問題，哪些失業(yè)的人，都在都在沖擊著越發(fā)不穩(wěn)定的社會系統(tǒng)，如果以這個方案為終點，這些問題甚至都可以被視為解決過程中的一種體現(xiàn)。

這個問題的本質(zhì)在于，人類能否能實現(xiàn)這個社會，回答是開始了，且還未結(jié)束。