GPT-4模型已經(jīng)發(fā)布。相比年初的熱火朝天，模型的更新仿佛正在變的稀松平常。不管是人工智能還是人工智能生成內(nèi)容，都在產(chǎn)生更加實(shí)際的影響。

自從AI繪圖進(jìn)入實(shí)際應(yīng)用層面，有一件小事正在對(duì)我造成困擾：貨不對(duì)板的游戲越來(lái)越多了。

我的工作內(nèi)容，包括收集各種渠道的熱門游戲和話題。紅燒牛肉面里面沒(méi)有肉，老婆餅沒(méi)有老婆，從宣傳圖到實(shí)機(jī)動(dòng)畫的距離到底有多遠(yuǎn)，做的久了自然知道。但最近，廣告的質(zhì)量越來(lái)越高，游戲的品質(zhì)卻跟之前沒(méi)什么區(qū)別。甚至，還會(huì)因?yàn)樨洸粚?duì)板的落差，更加割裂。

我是一個(gè)雜食的女性向玩家，什么女性向游戲都會(huì)玩一下。吃多了清湯掛面，也會(huì)想吃點(diǎn)刺激的東西。所以當(dāng)信息流推薦里面，出現(xiàn)這種面目姣好可攻可受的少年人的時(shí)候，確實(shí)有好奇點(diǎn)進(jìn)去看看的沖動(dòng)。

但是，點(diǎn)進(jìn)去看到的是——亮閃閃首沖獎(jiǎng)勵(lì)，福利大轉(zhuǎn)盤，還有十年之前的人模和服裝設(shè)計(jì)……對(duì)不起，打攪了，我對(duì)你有一些不切實(shí)際的期待。我們好聚好散，我不算計(jì)你的色相，你也不要算計(jì)我的錢包。

這也不是女性向?qū)m斗游戲獨(dú)有的現(xiàn)象。AI生成圖像的確幫助很多項(xiàng)目提升了生產(chǎn)效率，也讓我見到一些不存在的好游戲。現(xiàn)在，游戲是存在了，但圖片跟實(shí)機(jī)的距離有點(diǎn)遙遠(yuǎn)。

我想玩機(jī)甲游戲，《泰坦隕落》或者《圣歌》的機(jī)甲設(shè)計(jì)各有千秋，看著也十分酷炫。大數(shù)據(jù)收到了我的期待，于是給推薦了這個(gè)游戲。

但點(diǎn)進(jìn)去，原來(lái)是橫版的“劍與遠(yuǎn)征”，而且畫風(fēng)還是寶寶巴士風(fēng)格。人不能兩次踏入同一條河流，但是可以多次被類似的理由欺騙，騙了又騙。

諸如此類的“宣傳仙人跳”，看一次兩次還好，看久了就讓人心里疲憊。在宣傳圖階段，看的是美美的網(wǎng)紅照片，下載之后拿掉濾鏡，發(fā)現(xiàn)竟然是寶寶巴士，浪費(fèi)期待流量?jī)?nèi)存和時(shí)間。

這種信息的誤導(dǎo)，不僅發(fā)生在游戲領(lǐng)域，甚至已經(jīng)入侵生活，造成明確的經(jīng)濟(jì)損失。包頭公安日前破獲了一起“AI詐騙”案件，犯人通過(guò)換臉、音頻模擬，通過(guò)微信撥打電話的方式，騙取被害人信任。10分鐘電話，詐騙金額接近430萬(wàn)元。

以上的例子都是立竿見影，在當(dāng)下造成了明確損失，或者信息的偏差的。更麻煩的是，AI生成內(nèi)容對(duì)于人類知識(shí)庫(kù)的潛在污染。如果你現(xiàn)在以“小孔雀”為關(guān)鍵詞在搜索引擎中搜索，會(huì)發(fā)現(xiàn)“小號(hào)的成年孔雀”和“剛剛出生的棕毛孔雀”出現(xiàn)在同一屏。如果你并不知道“鳥類生下來(lái)的時(shí)候都很丑”，會(huì)不會(huì)把AI生成的圖片，當(dāng)成客觀的自然現(xiàn)象呢？

當(dāng)然了，有人或許要舉例子：《刀劍亂舞》和《艦隊(duì)收藏》這種，搜索一個(gè)船的名字能出來(lái)十七八個(gè)老婆，也是在污染搜索結(jié)果。但“艦?zāi)飻M人”和“船只本身”差距拉開得夠大，怎樣都不會(huì)以為現(xiàn)代航母戰(zhàn)爭(zhēng)，都是靠一群體重一噸的美少女打下來(lái)的吧？但是“小孔雀”是一個(gè)有足夠迷惑性的信息，從邏輯上，小號(hào)成年孔雀更符合邏輯上的推理。但現(xiàn)實(shí)就是，小孔雀生下來(lái)的時(shí)候很丑，跟小麻雀一樣丑。

AI的出現(xiàn)帶來(lái)了新形式的內(nèi)容產(chǎn)出，比如說(shuō)可口可樂(lè)就利用了AI生成內(nèi)容會(huì)產(chǎn)生的模糊和抖動(dòng)，拍出了一支混搭各種藝術(shù)流派的影片。但同樣，它也給我們?cè)斐闪肆钊嗣曰蟮睦_和判斷，在評(píng)價(jià)一個(gè)東西好不好，真不真之前，“是不是算法生成的內(nèi)容”，這個(gè)問(wèn)題被置于所有評(píng)價(jià)之前。它不光是位于猜疑鏈的頂端，同時(shí)，像是一柄達(dá)摩克利斯之劍一樣，平等地審判所有能看到的內(nèi)容。

世界遼闊，這種“小事件改變?nèi)澜纭钡氖虑?，之前也有發(fā)生過(guò)的例子。比如說(shuō)，用于高端測(cè)量?jī)x器制造的“低本底鋼”。

低本底鋼，別名“先原子鋼”“低背景鋼”，指的是產(chǎn)出于1940-50年代之前的鋼材。由于冷戰(zhàn)前后的核試驗(yàn)，以及長(zhǎng)崎廣島兩地的原子彈爆炸，導(dǎo)致全世界的背景輻射水平升高。鋼材煉制需要大氣參與反應(yīng)，所以，1950之后，全球產(chǎn)出的鋼材，都被環(huán)境中的放射性同位素污染，本身就有更高的輻射水平。而1940年之前產(chǎn)出的鋼材，則沒(méi)有這種“背景輻射”。你可以通過(guò)打撈1940年之前的沉船，獲得這種更干凈的鋼材。這種“低本底鋼”，通常用于制造精細(xì)測(cè)量設(shè)備，比如說(shuō)航空航天的傳感器，蓋革計(jì)數(shù)器，部分醫(yī)學(xué)測(cè)量?jī)x器。

總結(jié)一下，原子彈爆炸的影響，不光發(fā)生在人類看得到的那些地方。在接下來(lái)的一個(gè)世紀(jì)，改變了整個(gè)大氣圈的背景輻射，進(jìn)而影響了人類自己的生產(chǎn)和生活環(huán)境。

AIGC的出現(xiàn)，對(duì)于內(nèi)容生產(chǎn)領(lǐng)域來(lái)說(shuō)，無(wú)異于“原子彈爆炸”，炸出了大量的內(nèi)容，也產(chǎn)生了巨大的隱患。2023年之前的網(wǎng)絡(luò)數(shù)據(jù)，會(huì)成為數(shù)字時(shí)代的“低本底鋼”。因?yàn)樵?023年之前，互聯(lián)網(wǎng)不存在大量的機(jī)器生成內(nèi)容，無(wú)污染，無(wú)添加，純手工輸入。

這種信息污染，甚至有可能威脅到人工智能本身的開發(fā)進(jìn)度。牛津大學(xué)、劍橋大學(xué)、多倫多大學(xué)最近聯(lián)合發(fā)布了一篇關(guān)于模型訓(xùn)練的論文，結(jié)論是：如果使用AIGC內(nèi)容對(duì)模型進(jìn)行訓(xùn)練，最后會(huì)發(fā)生數(shù)據(jù)崩潰，最終導(dǎo)致模型誤解現(xiàn)實(shí)。他們不會(huì)遺忘之前訓(xùn)練的數(shù)據(jù)，但是會(huì)認(rèn)為，野外剛出生的小孔雀確確實(shí)實(shí)長(zhǎng)了一身綠毛。

這篇論文的結(jié)論，還指向了一個(gè)沒(méi)有那么愉快的結(jié)論：模型領(lǐng)域的先發(fā)優(yōu)勢(shì)確實(shí)存在，先行者可以通過(guò)產(chǎn)出冗余內(nèi)容的方式，污染后來(lái)者的訓(xùn)練數(shù)據(jù)——讓后來(lái)人無(wú)路可走，先發(fā)者的驕傲盡數(shù)體現(xiàn)。

不過(guò)先行和先烈僅有一字之差，活下來(lái)就是先行，死了就是先烈。我們可以掂量掂量，到底哪個(gè)概率更高，明天和意外到底哪個(gè)先來(lái)。

AI如此強(qiáng)大，應(yīng)用場(chǎng)景當(dāng)然不止有“信息流廣告”這么狹隘。就比如說(shuō)AI生成圖片，經(jīng)常就一個(gè)主題產(chǎn)出好幾張圖，每張圖都有細(xì)微的差別或者“抖動(dòng)”，恰恰適合放在各種解密游戲里面，找不同，找線索，找各種奇奇怪怪的東西。

從邏輯上講，這個(gè)道理是講得通的。我也的確見過(guò)這樣的游戲，體驗(yàn)一言難盡。雖然可以通過(guò)技術(shù)手段錨定每次生成的人物面部細(xì)節(jié)，但是周圍模糊的背景，對(duì)游戲體驗(yàn)造成了不小的干擾——用AI生成圖做尋物解謎，仿佛霧里探花，主打的是一個(gè)氛圍感和朦朧美，令人眼酸。錢鐘書在圍城中曾經(jīng)提到：“對(duì)于丑人，細(xì)看是一種殘忍?！蓖鍭I生成的解謎游戲，可能對(duì)我自己是一種殘忍。

在今年1月，各路人馬對(duì)于Open AI頂禮膜拜的時(shí)候，馬斯克曾經(jīng)留言：我們不需要Chat-GPT，需要Truth-GPT。在這個(gè)時(shí)間點(diǎn)上看，此言不虛。但矯正期待，面對(duì)現(xiàn)實(shí)，是只有人類能做到的事情。

這兩天GPT-4模型正式發(fā)布，更多的參數(shù)，更充分的專家模型支持，更大的集群和更低的利用率。太棒了，技術(shù)本身當(dāng)然可以更進(jìn)一步，更進(jìn)一步，直到實(shí)現(xiàn)通用人工智能，造福更多人的生活。但這種代價(jià)，是不是要建立在跟現(xiàn)實(shí)有明顯偏差的基礎(chǔ)之上呢？我們使用人工智能，是希望減輕自己的負(fù)擔(dān)，同時(shí)期待它可信賴，可依靠。但如果一天天的，被“貨不對(duì)板”的信息溜來(lái)溜去，造成的麻煩比沒(méi)采用之前還要更多。那到底，我們是技術(shù)的主人還是工具的奴隸？

博爾赫斯曾經(jīng)講述這么一個(gè)故事：曾經(jīng)有一個(gè)國(guó)王，用一張巨大的紙，繪制出王國(guó)的每個(gè)細(xì)節(jié)。這張紙實(shí)在是太大了，沒(méi)有任何地方可以收納，只能攤開在王國(guó)的土地上。最終這張耗費(fèi)無(wú)數(shù)人力，精準(zhǔn)無(wú)比的地圖，逐漸腐爛，被人遺忘。

希望這不會(huì)成為這些大模型的寓言。

文/星詠