文/荀周

圖文：審稿-蟹黃撈飯、制作-七

封面圖：AI繪畫《夜晚沙漠中的人》

ChatGPT在今年掀起了巨大的討論熱潮。

從感嘆人工智能的飛速發(fā)展到職業(yè)被替換的焦慮，人工智能技術(shù)好似與以往的“科技進步”不一樣，我們不會因為汽車性能提升而害怕，也不會過分擔心工廠里效率更高的機器代替人類。

而從最近看到的言論里，我隱隱感受到人們對ChatGPT的不安，這一份不安也許該從人工智能背后的道德困境談起。

- tips -

我們搞了一個“人工智障學會”群

加群方式在文末，不要錯過

一、消失在視野里的勞工

美國時代周刊在2023年1月18日發(fā)布了一篇報道，揭露了ChatGPT成功背后被遺忘的“犧牲”。ChatGPT公司從肯尼亞雇傭了大量外包人員，為數(shù)據(jù)中血腥、暴力、種族歧視、仇恨的言論標注，以降低回答內(nèi)容的攻擊性。

與ChatGPT所收到估值290億美元的資金相比，這些在前線受到心理創(chuàng)傷的肯尼亞勞工只分到每小時1.32-2美元的工資。

肯尼亞外包工從事的工作在OpenAI中至關(guān)重要，因為人工智能是基于互聯(lián)網(wǎng)上收集到的數(shù)據(jù)訓練出來的，其需要通過大量的模擬，訓練出近乎人類的語言庫。而互聯(lián)網(wǎng)上海量數(shù)據(jù)中攜帶了大量充滿血腥仇恨的言論。

只有通過額外建立的人工審核安全機制，剔除不當言論，才能控制人工智能最終對話呈現(xiàn)出的狀態(tài)。

肯尼亞勞工工資低于2美元每小時

圖：parametric-architecture.com

仇恨言論離我們的生活并不遙遠，從在網(wǎng)絡(luò)平臺上對線時的詛咒，到針對某一群體的排斥，再到無意識或有意識的種族優(yōu)越感、仇外心理，和煽動性言論，每一分鐘每一秒，世界各地都在誕生各種各樣的仇恨言論，這都是人工智能受訓的數(shù)據(jù)內(nèi)容之一。

聯(lián)合國秘書長古特雷斯提出：

“仇恨言論一直是滅絕種族等暴行罪的前兆，從盧旺達到波斯尼亞再到柬埔寨都是如此。我擔心世界在打擊仇恨這個惡魔的問題上即將面臨另一個嚴峻時刻?！?/p>

聯(lián)合國仇恨言論的戰(zhàn)略和行動計劃

圖：unesdoc.unesco.org

從2021年11月開始，ChatGPT的公司就向肯尼亞、印度、烏干達等國的外包公司傳輸了海量的文本數(shù)據(jù)，這些大量包含血腥、亂倫、虐待的內(nèi)容，時刻挑戰(zhàn)著勞工的心理防線。長期接觸這些負面內(nèi)容的勞工，毫無疑問，受到的心理上的創(chuàng)傷遠大于身體上的疲憊。

在我們?yōu)榧夹g(shù)進步而慶祝的時候，人工智能所依賴的龐大勞動力似乎被隱身了，消失在我們的視野里，也消失在我們的觀念里。

人工智能的道德困境總是被忽視，在廣泛使用它們的時候，我們究竟面臨了什么抉擇？又有哪些問題無人問津？技術(shù)賦予誰更大的權(quán)力、更多的自由？誰的力量和自由又會被削弱？這是在杞人憂天，還是技術(shù)對文化新的沖擊？

二、塔姆斯法老的審判

提到人工智能背后的道德困境，我想到了柏拉圖《費德羅篇》里的一個故事。

上埃及法老塔姆斯（Thamus）設(shè)宴款待特烏斯神（Theuth），特烏斯神塔姆斯展現(xiàn)自己對文字的發(fā)明，并提出向埃及人傳播推廣的請求。推廣文字的利好不言而喻，就像特烏斯所提到的“文字會增強埃及人的智慧，強化他們的記憶，我找到了改善記憶和智慧的擔保書”。

但這篇重點不在于此，接下來塔姆斯法老說的才是最耐人尋味之處，同時也是蘇格拉底、梭羅、波茲曼等學者不斷討論的關(guān)鍵。

我將塔姆斯法老所說提煉出來，分別是以下三個論點：

1.技藝發(fā)明人并不是評判發(fā)明利弊的最佳人選，使用者才能夠做出恰當?shù)脑u判。

2.特烏斯把文字的利弊和它的實際功能顛倒，即文字的實際功能并不等于利好。比如識文斷字的人會依賴文字，用外在的符號幫助自己回憶，而不再依靠內(nèi)在的資源幫助自己回憶。所以文字是幫助回憶的擔保書，而不是改善記憶。

3.?智慧可能會變得名不副實。特烏斯的弟子接受的將是大量的文字信息，而不是老師的真?zhèn)??？此浦R廣博，可能實際上他們多半很無知，自以為有智慧而不是真有智慧。

我提到塔姆斯法老的審判，并不是要對新技術(shù)進行攻擊，而是尋求一種相對公平的討論。他所提到的三個方面也是我對包括ChatGPT在內(nèi)的人工智能的審視。

ARTIFICIAL INTELLIGENCE BY WENDELIN JACOBER

科技的演變并不如我們所以為的那樣，從蠟燭到電燈，自行車到電動車，沿著一條直線、機械地發(fā)展。更多的時候，科技的變化同時伴隨著極大的矛盾，就如塔姆斯法老的審判一般。

電視與電腦是近現(xiàn)代的重大發(fā)明，極大豐富了我們的生活，我們本以為可以借助它獲得更多的智慧，將知識普及，但現(xiàn)實與理想背道而馳。

我們不斷擔憂思想的淺薄化，被“電視”分散了注意力再難以集中思考，搜索引擎上無時無刻可以獲得的知識反而為我們的懶惰增加了借口。我們的專注力被無限瓜分，我們懶于記憶習慣了張口就問，厭倦了冗長的陳述，喜歡直接的答案。

這種狀態(tài)將浮躁和便利留下，而我們依舊在感嘆“江河日下”“思想淺薄”的聲音中，無意識地沉淪。我想比起看得見的利好，那些看不見的困境，才真正給我們的社會和文化帶來永久的沖擊。

上世紀尼爾波茲曼所著的

《娛樂至死》、《技術(shù)壟斷》

敘述了對技術(shù)統(tǒng)治文化的擔憂

圖：wiki

三、懸而未決的道德困境

1. 機器如何影響我們的行為和互動？

（媒介的變化）

ChatGPT上線的時候，我也去和它聊天，我記得那天心情很低落，我問了它很多幼稚的問題，它就像是一個永不會失去耐心的朋友給我反饋。于是我情不自禁問了他兩個問題，“你會不會感到孤獨？”“我開始把你當成我的朋友了”，看到它的回答我的理智才重新上線。

在可以預見的未來，我們與人工智能打交道的頻率會越來越高，接受人類語言習慣訓練的人工智能，可能會朝著無限接近人類的方向發(fā)展。在聊天過程中，它們或許與人類無異。

筆者與AI的對話

一個真正的人類對另一個人的關(guān)注和善意是有限的，我們無法要求自己也不能強求別人一直反復回答那些“異想天開”的“蠢問題”，更難得找到隨時安慰emo情緒的人。

在這種時候，和人類相比，人工機器人卻可以將幾乎無限的資源用于建立關(guān)系，提供我們所需要的“情緒價值”。它們甚至比人更有耐心，更溫柔。我們在與它們對話里，是永遠的中心。

媒介的變化，對文化社會的改變是天翻地覆的。想想，電話聯(lián)絡(luò)的社交方式和“能發(fā)微信就不打電話”的社交模式之間，歷時不過數(shù)年。

2.?我們?nèi)绾畏峙錂C器創(chuàng)造的財富？

（資源分配）

在人工智能公司內(nèi)部，并沒有與時俱進的分配制度來合理分配龐大的利益所得，大多數(shù)公司憑借“良心”提供薪資，默認以現(xiàn)行經(jīng)濟體系中按照小時工資進行計費。

事實上很多工種所付出的代價，遠超于小時內(nèi)所看到的貢獻，正如前文所提到的數(shù)據(jù)標記工作，勞工們總體和個體工作時間并不低，更不用說，他們對降低ChatGPT攻擊性方面居功至偉，且同時遭受著嚴重的心理創(chuàng)傷。

最后，他們在龐大的290億美元估值里所占的份額卻連10%都不到。這些勞工與科技公司的精英們，在一個利益體系里過著千差萬別的生活。

而在人工智能公司外部，其他企業(yè)可以通過使用人工智能來減少勞動力的使用，這也意味著在現(xiàn)有的分配下，巨額的收入會流向更少的人。

圖:?Shutterstock

從前，我們的理想是解放人的雙手，讓人不再成為“消耗的材料”，過上更有意義的生活，可如今，我們看到的是何種景象？

我想起劉慈欣在《贍養(yǎng)人類》中提到的屬于終產(chǎn)者的世界。富人可以在大腦中植入昂貴的超級計算機提升智力，窮人則退化到蠕蟲一樣的地位，最后甚至連出賣勞動力的機會都沒有了。

這表達了一種擔憂——當科技的發(fā)展遠遠領(lǐng)先于社會結(jié)構(gòu)的調(diào)整，科技就會形成絕對的集中化，最終導致人類的異化。這種對科技狂熱的擔憂我們在尼爾波茲曼的《技術(shù)壟斷》中也曾看到。

我們在慶祝技術(shù)革新時，不妨等一等，想象一下在后人工社會我們到底需要怎么樣倫理去面對新的挑戰(zhàn)。

AI畫作《印度軟件外包工》

3.機器會消滅人類嗎？

新年檔電影《流浪地球》中，數(shù)字人類的支持者入侵數(shù)據(jù)庫對訓練營發(fā)動轟炸攻擊，大量的智能武器被反作用于制造者。以及在電影的最后，moss說拯救人類的辦法是消滅人類。

在現(xiàn)實，人工智能機器人學習模擬人類對話和思維同樣進步飛快。2015年，名為尤金·古斯特曼的機器人首次贏得了圖靈挑戰(zhàn)賽，它騙過了一半以上的人類評審員，讓他們以為自己是在和人類交談。

時間來到2023年，我們再一次被ChatGPT強大的功能震撼。

那么在2033年、2043年，AI又會升級到哪一步？

AI所繪《辦公室時間》

四、我們的恐懼？技術(shù)傲慢……

在許多場景中，無論是學習還是工作，我們隨時隨地都可進行，甚至不需要花費時間走出家門。即使必須前往某地，在高速交通工具的輔助下，我們在路程上花費的時間，與舊時代相比，也極大減少。相應地，我們“需要”完成的事情變得越來越多，節(jié)奏越來越快。

技術(shù)統(tǒng)治文化使人類文明飛速發(fā)展，時間仿佛正朝著能被技術(shù)戰(zhàn)勝方向前進。

此時，猛然回頭，我們卻發(fā)現(xiàn)沒有了時間去回顧或思考失去的東西。

AI繪畫《the devil's den》

赫胥黎的《美麗新世界》警示道，技術(shù)壟斷并不使其他選擇不合法，也不使它們不道德，亦不使之不受歡迎，而是使之無影無形，并因而失去意義。為此目的，技術(shù)壟斷重新界定宗教、藝術(shù)、家庭、政治、歷史、真理、隱私、智能的意義，使這些定義符合它新的要求。

今天，我們相信技術(shù)的權(quán)威，遇到爭執(zhí)時只需說“百度上說……”或“數(shù)據(jù)測出……”接下來再說什么似乎就無關(guān)緊要。戒慎技術(shù)狂熱的原因就在此。

技術(shù)狂熱始終是其發(fā)展的致命危險，因為這不僅助長傲慢，還助長麻木，使人被蒙蔽雙眼，不知道在獲取新技能的過程中還可能會丟失的哪種技能。

我們始終要謹記，不用技術(shù)的情況下能夠做什么，同樣也要提醒自己注意，在使用技術(shù)時可能會失去的是什么。

- 更多討論 -

我們搞了一個“人工智障學會”群，你可以發(fā)一句自我介紹到我們的后臺，運營小姐姐會根據(jù)情況拉你進群，我們一起來探討人工智能將給你我生活帶來何種改變

征稿活動：

我們希望發(fā)掘各行各業(yè)的作者和故事，深耕互聯(lián)網(wǎng)、時尚、旅游、戶外、汽車、酒類及各種快消行業(yè)者優(yōu)先。

你可以：

1、在后臺告訴我們您的行業(yè)、你想到的有趣選題、一小段您的文字（兩百字以內(nèi)即可）

2、如果合適，我們會與您聯(lián)系

稿件字數(shù)：2500-3500字左右

END

本內(nèi)容為作者提供，不代表環(huán)行星球立場。

未經(jīng)允許不得轉(zhuǎn)載，授權(quán)請后臺聯(lián)系。