人們談?wù)搩?nèi)容審核時，不會在第一時間想到實際從事審核工作的員工。這些員工的工作大半是看不見的——深深隱藏在呼叫中心式的辦公室里——他們過濾著社交媒體平臺上用戶生成的大量內(nèi)容。用戶看不見他們，但這部分員工是互聯(lián)網(wǎng)的一線工作者，一直面對著展示人性最糟糕一面的圖片或視頻。假如沒有他們，社交媒體公司及其以廣告驅(qū)動的商業(yè)模式很可能無法像現(xiàn)在這樣存在。

然而，這份工作要不斷接觸令人不快的內(nèi)容，卻往往報酬很少，是臨時性的工作，而且充滿了要迅速準(zhǔn)確執(zhí)行的壓力。他們的境況一定要這么糟糕嗎？

加州大學(xué)洛杉磯分校批判性互聯(lián)網(wǎng)調(diào)查中心（Center for Critical Internet Inquiry）學(xué)術(shù)主任兼性別研究、信息研究及勞工研究副教授薩拉·羅伯茨（Sarah T. Roberts），是內(nèi)容審核方面的專家。她與《哈佛商業(yè)評論》談了這類工作為何通常設(shè)計得就很糟糕、可能有怎樣的替代模式，以及我們?nèi)绾巫屵@種不可或缺的一線工作變得更好。以下采訪記錄經(jīng)過編輯。

Q：內(nèi)容審核是在什么時候成為了一項工作，經(jīng)歷過怎樣的演變？

這項工作始于社交媒體初期，就連早期的MySpace都意識到了對專業(yè)審核人員的需求。

2010年左右，F(xiàn)acebook這樣的網(wǎng)站相對還很年輕，用戶生成內(nèi)容可以促進(jìn)用戶參與的想法也很年輕?？墒钱?dāng)你打開大門，讓每個人都可以上傳圖片或視頻，你就會看到人類全部的自我表達(dá)。其中一些產(chǎn)物不合適、令人不安或不符合法律規(guī)定，而且會給擔(dān)心惹麻煩或憂心品牌管理的公司帶來問題。

起初公司用一種拼湊的方式來審核：安排內(nèi)部人員從事這項工作，其中有合同工也有正式員工，但也會外包給第三方，包括其他公司和Mechanical Turk等數(shù)字計件工作平臺，以滿足需求。

我在伊利諾伊大學(xué)讀博士學(xué)位時讀過一篇文章，講愛荷華州農(nóng)村的人在一個聽起來像是呼叫中心的地方工作——但他們不是回應(yīng)服務(wù)咨詢，而是審查用戶在社交媒體上發(fā)布的內(nèi)容是否符合特定網(wǎng)站的準(zhǔn)則。

當(dāng)時我已經(jīng)有20年的網(wǎng)齡，從來沒有考慮過夾在中間做這些事情的人可以把這當(dāng)作一份賺錢的工作。我突然意識到，如果你的工作就是尋找和刪除那些讓其他人不安的東西，反復(fù)接觸這類材料一定很辛苦。

如今每一家社交媒體公司都有自己詳細(xì)到令人咋舌的相關(guān)政策，總是在修改和完善，呼叫中心模式則更勝一籌。負(fù)責(zé)執(zhí)行這些政策的審核員在大規(guī)模、工業(yè)化的像呼叫中心一樣的外包辦公室工作，通常位于勞動力成本比美國低得多的地區(qū)。企業(yè)喜歡這樣的關(guān)系。這種關(guān)系讓企業(yè)得以方便地置身事外，合理推諉，不必為工作可能造成的傷害承擔(dān)責(zé)任。

Q：內(nèi)容審核員的一天通常是怎么過的？

如果你是第三方承包商公司的一線普通員工，你通常會進(jìn)入一個相當(dāng)“無菌”的環(huán)境。你可能沒有自己的工位，因為是三班倒，下班之后會有其他人坐在你的位置上。你可能要登入一個由需要審核的公司開發(fā)的專有系統(tǒng)或界面，然后開始查看材料隊列。

你會收到被標(biāo)記的內(nèi)容——可能有一些上下文背景信息，也可能幾乎沒有——你根據(jù)自己對公司政策的理解，判斷是否刪除該內(nèi)容。處理完這條內(nèi)容，你會收到另一條內(nèi)容。這就是你一整天要重復(fù)的工作流程，處理待審核的隊列。有時會有分類，比如一些人專門處理仇恨言論或自傷內(nèi)容，但即使是普通員工處理的普通內(nèi)容，也可能非?？膳隆Ｏ胂肽切┎辉试S出現(xiàn)在網(wǎng)站上的東西：通常那就是審核人員看到的東西。

Q：你交流過的審核員對這份工作感覺怎樣？

一位女性告訴我，她覺得自己扮演著民俗中的“食罪者”角色。這種歷史儀式的要旨是窮人在精神上承擔(dān)死者的罪孽，往往通過吃掉擺放在尸體上的面包來換取金錢。這位女性感到，自己在做內(nèi)容審核的時候，本質(zhì)上就是承擔(dān)他人的不當(dāng)行為、殘忍和暴力以換取報酬。這個比喻真的讓我很有共鳴。還有一些審核員把這份工作比作看門人或收垃圾的人——處理垃圾和殘渣。

Q：審核員的工作辛苦，只是因為內(nèi)容嗎，還有沒有其他難題？

除了處理實際的內(nèi)容以外，審核員使用的界面可能也有段時間沒更新過，因為工程資源都用于為客戶開發(fā)新產(chǎn)品和新功能。為內(nèi)容審核員改善工作體驗，從來不會是公司的首要重點工作。舉例來說，舊的界面可能對審核員的指令響應(yīng)遲緩，讓他們無法如愿高效審核被標(biāo)記的內(nèi)容。這意味著員工可能不得不耗費額外的時間看一張圖片，或者看完一整個令人不安的視頻，造成工作壓力。

另一個難題在于審核員如何被評估，通常有兩個指標(biāo)。一是生產(chǎn)力：你處理了多少內(nèi)容。二是準(zhǔn)確性：如果某位主管審查你處理過的內(nèi)容，是否會同意你的判斷？因此你承擔(dān)著迅速完成工作但也要做好的壓力。

這項工作的報酬也很低，特別是比起其他技術(shù)部門的工作。我想很多人上崗的時候都在想，“我要在社交媒體工作，這是我職業(yè)生涯的開端?！钡@是最底層的工作，經(jīng)常被貶低和否定，而且很難長期做下去。

Q：那么自動化呢？軟件和算法模型能否完成這項工作？

隨著對內(nèi)容審核的需求增長，公司已經(jīng)投資于機(jī)器學(xué)習(xí)算法、自然語言處理和其他自動化工具。不過這種轉(zhuǎn)變并沒有減少參與這項工作的人數(shù)，反而增加了人數(shù)。公司需要員工對訓(xùn)練工具要用到的圖像或其他類型媒體的數(shù)據(jù)集進(jìn)行注釋，而且算法判斷是否正確仍然需要人工檢查。

我們要把重復(fù)的、令人不安或不快的勞動交給機(jī)器——這種理想長期以來一直存在。然而實際情況是，這項工作只是被推到了我們視線以外的地方。自動化審核只對垃圾郵件或數(shù)據(jù)庫中已經(jīng)被識別的內(nèi)容有效，除此之外無法進(jìn)行審核，因為審核工作有細(xì)微之處，需要語言和文化能力。例如，某個符號只是一個符號，還是有特殊含義？一些人可能會覺得納粹標(biāo)志黑太陽只是一個幾何設(shè)計，除非熟悉這個符號的背景和使用場合。機(jī)器在這方面趕不上人類。

Q：目前的體系有沒有其他替代方案？

如果社交媒體公司沿用一直以來的商業(yè)模式，我覺得對審核員的需求在短期內(nèi)不會消失。不過改善員工體驗的可行措施有很多：升級技術(shù)，提升工作時的體驗，讓他們對自己看到的內(nèi)容有更大的控制權(quán)，并且允許他們說“嘿，我需要休息一下”且不受處罰。

很多公司聲稱自己會為員工提供支持，但許多審核員告訴我，他們不會尋求支持，因為這意味著讓老板知道自己在工作的核心部分有困難。我問他們想要哪些改變，他們總是回答“漲工資”和“更重視我們”。這代表社會上其他人對他們所做的工作普遍缺乏認(rèn)可。

至于科技以外的行業(yè)，前不久我們看到員工成立工會要求有所改善。如果公司不想辦法改善審核員的工作狀態(tài)，審核員或許也可以選擇這樣做。他們?yōu)楣椭魈峁┑姆?wù)至關(guān)重要。平臺通過讓廣告商盡可能多地接觸用戶來賺錢，這就產(chǎn)生了內(nèi)容審核作為品牌保護(hù)的需求，因為沒有哪家公司希望自家的廣告出現(xiàn)在斬首視頻旁邊。

另一種更有爭議性的解決方案是重新思考社交媒體平臺的設(shè)計方式。這類平臺真的應(yīng)該成為供人們用惡言惡語、政治斗爭、虛假信息、政治宣傳、種族主義和厭女癥以及其他垃圾填充的空容器嗎？20億人使用同一個交流網(wǎng)絡(luò)，真的是件好事嗎？除了對規(guī)模和利潤的渴望，這些平臺并沒有注定變成現(xiàn)在這種樣子的理由。

Q：有沒有哪些平臺審核做得好？

我很難不把早期的互聯(lián)網(wǎng)浪漫化。過去我對很多事情感到憤怒，有時候還跟人掐架——我們現(xiàn)在跟網(wǎng)絡(luò)討論聯(lián)系在一起的行為我那時候全都干過。

可是早期的互聯(lián)網(wǎng)社區(qū)確實有允許人們決定加入或退出的治理模式。一些網(wǎng)站是無政府主義的，不制定規(guī)則，有一套“什么都行”的治理方法。重要的是要認(rèn)識到，沒有規(guī)則是一種治理選擇，會影響網(wǎng)站的文化。

另一些網(wǎng)站有非常嚴(yán)格的規(guī)則，如果不遵守規(guī)則，你就會被踢出來。這種情況下，負(fù)責(zé)審核的人通常有明顯的領(lǐng)導(dǎo)作用，通過用戶賦予的權(quán)力策劃特殊的文化空間?，F(xiàn)在還有一些網(wǎng)站用的是類似的模式。

以Reddit為例，在每個次級板塊或主題論壇上都有社區(qū)領(lǐng)導(dǎo)者也就是審核員以及明確的規(guī)則，說明可以接受什么內(nèi)容，以及違規(guī)者將受到怎樣的懲罰。每個次級板塊制定的規(guī)則不一樣，用戶可以決定是否參與。在更高的層面還有專業(yè)的負(fù)責(zé)人，處理執(zhí)法機(jī)構(gòu)或政府要求提供信息之類的事。這種模式與內(nèi)容審核工作在很大程度上不可見、不被認(rèn)可的模式形成了鮮明對比。

Q：你還從與你交流的審核員那里了解到什么？

現(xiàn)在，審核員從互聯(lián)網(wǎng)一線獲得的許多集體智慧都丟失了。他們沒有有效的反饋機(jī)制告訴雇主自己看到了什么，比如當(dāng)下的趨勢或警示信號。跟我聊過的一些審核員可能是美國國務(wù)院以外最早了解某些沖突地區(qū)的人，卻無從上報這部分信息。

企業(yè)還可以向這些員工收集關(guān)于如何改善網(wǎng)絡(luò)規(guī)則、如何更好地服務(wù)公眾的商業(yè)創(chuàng)意。不過，因為審核員在組織結(jié)構(gòu)的偏僻之處，而且通常在地理上亦然，與領(lǐng)導(dǎo)層的溝通渠道不存在或不暢通，他們會被視為執(zhí)行當(dāng)前規(guī)則的自動裝置，而非有知識可以貢獻(xiàn)給更廣大生態(tài)系統(tǒng)的有價值的員工。我覺得這是企業(yè)真正錯過的機(jī)會。

托馬斯·斯塔克波爾（Thomas Stackpole) | 訪??

托馬斯·斯塔克波爾是《哈佛商業(yè)評論》英文版高級編輯。

蔣薈蓉 | 譯? ? ?孫燕 | 校? ? ?劉雋 | 編輯

原文見《哈佛商業(yè)評論》中文版2023年2月刊。