什么是我們一生中耗時最多、最費心力的事？是做出大大小小的決策。

但是，我們往往深陷偏見和非理性中，做出荒謬的判斷?！爸啤本褪窃诓恍枰獜娖鹊那闆r下巧妙地引導人們做出更理性的選擇。

然而，當無數(shù)個人用戶的大數(shù)據(jù)被人工智能處理后，算法到底是為我們“推薦“還是在”操縱“我們的選擇？

本文中，作者概述了公司在遵守道德界限的同時利用助推策略的三種方式。??

“推薦”——根據(jù)自由選擇擺在用戶面前的明顯程度來改變用戶行為的策略——自2008年芝加哥大學經(jīng)濟學家理查德·塞勒(Richard Thaler)和哈佛法學院教授卡斯·桑斯坦(Cass Sunstein)推廣這一概念以來，已經(jīng)取得了長足的進展。有了這么多關于個人用戶的數(shù)據(jù)，也有了人工智能來處理這些數(shù)據(jù)，公司越來越多地使用算法來管理和控制個人——尤其是員工。這對工人的隱私會產(chǎn)生影響，被一些人視為操縱。筆者概述了企業(yè)在恪守道德界限的同時利用這些策略的三種方式：創(chuàng)造雙贏局面、分享數(shù)據(jù)業(yè)務信息以及對算法本身保持透明。

企業(yè)越來越多地利用算法來管理和控制個人，不是通過強制手段，而是以推薦他們做出合意行為的方式——換句話說，從他們的個性化數(shù)據(jù)中了解信息，并以某種微妙的方式改變他們的選擇。比如，自2017年劍橋分析公司丑聞以來，眾所周知，F(xiàn)acebook上大量有針對性的廣告和高度個性化的內容可能不僅會促使用戶購買更多產(chǎn)品，而且會誘引和操縱用戶為特定的政黨投票。

芝加哥大學經(jīng)濟學家理查德·塞勒和哈佛大學法學院教授卡斯·桑斯坦在2008年推廣了“推薦”(nudge)一詞，但由于人工智能和機器學習方面的最新進展，算法推薦比非算法推薦強大得多。有如此多關于員工行為模式的數(shù)據(jù)在手，企業(yè)現(xiàn)在可以制定個性化策略來大規(guī)模改變個人的決定和行為。這些算法可以實時調整，讓該方法更為有效。

隨著公司使用文本、游戲機制和推送通知來影響員工隊伍，算法推送策略越來越多地應用于工作環(huán)境中。比如，叫車服務公司優(yōu)步(Uber)一直采用獎勵徽章的心理技法，激勵他們的300多萬獨立、自主司機延長工作時間，而不是強迫他們這樣做。同樣，Deliveroo將通知推送到其食品配送員工的智能手機上，以促使他們更快地工作。

對于許多企業(yè)來說，向員工推薦是一種大有希望的方法，通過提高員工業(yè)績以及/或者節(jié)約成本來實現(xiàn)企業(yè)目標。比如，維珍大西洋航空公司(Virgin Atlantic)據(jù)報道通過督促飛行員減少燃油消耗來影響員工的行為，幫助這家英國航空公司大幅降低了成本；谷歌據(jù)報道采用了推薦的做法，旨在鼓勵其員工吃更健康的快餐食品，減少自助餐廳的食物浪費。在我們對Uber四年的研究中，我和同事發(fā)現(xiàn)，與傳統(tǒng)的管理方式相比，算法管理和推薦方法讓企業(yè)以相對低的成本高效地協(xié)調了龐大的員工隊伍。

不過，企業(yè)應保持警惕：這些做法已因其受人質疑的道德問題而遭到批評，也越發(fā)受到監(jiān)管機構和廣大公眾關注。這些做法面臨的質疑主要表現(xiàn)在對侵犯隱私的關注、指責推薦會操縱不知情的個人并使其處于不利地位的指控，以及對算法透明度和偏見的擔心。目前，采用這種技術的企業(yè)主要是零工經(jīng)濟中的企業(yè)，工人在這些企業(yè)中不被視為員工。這一名頭在很大程度上保護了雇主免受這一領域的監(jiān)管，不過，這種情況可能正在開始改變。

比如，2020年7月，英國優(yōu)步司機對優(yōu)步公司提起訴訟，聲稱該公司未能按照歐洲數(shù)據(jù)保護條例規(guī)定履行其法律義務，指出其算法缺乏透明度。同樣，在美國，聯(lián)邦貿易委員會多次對研究予以了資助，并發(fā)布了消費者指南，以提升消費者隱私和算法責任。這種與隱私相關的擔憂因亞馬遜員工腕帶等涉及企業(yè)可疑行為的新聞而加劇。亞馬遜腕帶可以通過振動向倉庫工作人員指示產(chǎn)品方向，但也可以跟蹤員工的一舉一動。

但企業(yè)不應放棄算法管理，通過推薦來控制員工。基于優(yōu)步行之有效——和那些無效——的方法，以及我通過對有關Facebook、亞馬遜和谷歌的公開報道而觀察到的方法，以下是對那些希望進行算法管理和推薦、但又希望避免道德和監(jiān)管羅網(wǎng)的企業(yè)提供的三條建議。

創(chuàng)造雙贏局面

優(yōu)步對員工的推薦、Facebook對社交媒體用戶的推薦，以及亞馬遜對員工的推薦明顯更服務于企業(yè)利益，而非消費者或員工利益，因此很容易認為所有的推薦都違背了個體目標對象的利益。然而，我相信企業(yè)可以創(chuàng)造一個雙贏的局面，從而讓相關各方全都得益于推薦。

塞勒和桑斯坦的研究表明，推薦可以鼓勵個人通過積極強化自己的決定來提升健康、財富和幸福感。

如果將此轉換為工作和算法管理的背景，那么，企業(yè)應該尋求實施同樣有益于員工的、人工智能支持的個性化獎勵系統(tǒng)。雖然我不知道現(xiàn)在有哪家公司在這樣做，但我可以想象這樣一個世界，這些系統(tǒng)會促使員工提高自身安全，并向他們傳達一種感激之情。將來，為鼓勵員工多存錢，企業(yè)可以默認員工加入退休儲蓄計劃。許多這樣的行為反過來也有助于企業(yè)，因為員工的安全和滿意度有利于企業(yè)的最終盈利。

雖然優(yōu)步最初的推薦完全關注的是有益于公司而不是員工的結果，但最近，該公司已開始通過其Uber Pro獎勵服務，朝著兼顧性更強的方式邁出第一步。保持高評分和低取消率等某些要求的司機現(xiàn)在有機會獲得獎勵，從健身房會員折扣到燃油購買返現(xiàn)。雖然完全回應司機的需求尚需要做更多的工作，但目前的方案是一個起點。

共享數(shù)據(jù)收集和存儲方面信息

算法驅動的推薦依賴于獲取大量關于員工偏好和過去行為的詳細數(shù)據(jù)。當谷歌和亞馬遜等科技巨頭在收集有關用戶網(wǎng)絡搜索、點擊、點贊和購買決定這類數(shù)據(jù)時，優(yōu)步收集的是有關司機一舉一動的數(shù)據(jù)，比如他們的GPS位置、駕駛習慣與行駛速度習慣以及乘車接受率。

從事算法推薦的企業(yè)需要對這些數(shù)據(jù)的收集和存儲情況保持透明。GDPR在這方面設置了一個很好的標準：它要求企業(yè)主動提供所收集和存儲的個人用戶（包括工人?。?shù)據(jù)性質的信息。比如，為遵守GDPR的規(guī)定，Twitter更新了其服務條款和隱私設置，其中包括確保向用戶提供的有關其數(shù)據(jù)使用情況的溝通和信息簡潔、透明、易于訪問，使用的是清晰明了的語言。

解釋算法的邏輯

向員工清楚地表明算法在用他們的數(shù)據(jù)做什么事情，這對于恪守道德界限也至關重要。顯著受到機器學習模型結果影響的個體應當考慮如何做出特定決策。在涉及人的剖析研究時——利用數(shù)字技術的新進展，使算法決策能夠針對特定的個人進行調整，這一點非常重要。信息透明度至關重要，以便讓員工在是否選擇退出算法問題上做出知情決定，并證明自動決定并不具有種族或性別偏見的傾向。

然而，共享信息（比如，為何某些工作人員所受的待遇不同于他人，或者特定推薦策略的預期結果是什么）可能是一項挑戰(zhàn)，尤其是考慮到這些算法總會根據(jù)不斷變化的環(huán)境動態(tài)地調整自己。即便如此，越來越多的企業(yè)開始投資于可解釋的人工智能解決方案，采用技術的目的是為了確保復雜的計算結果能夠被人類利益相關者理解。

解決這個問題的一種方法是反事實的解釋。這些解釋表明，如果個體具有不同的特征或屬性，那么決策算法對于特定的個人會有什么樣結果——這是一種簡單、非技術性的方法來顯示算法是如何發(fā)揮作用的。

比如，優(yōu)步共享的詳細信息可以涉及哪些因素（如司機評分、乘車接受率、客戶投訴數(shù)量）會影響到每位司機在獎勵計劃中被評為黃金、白金還是鉆石會員。更理想的是，分享關于什么確切的評級和接受率，或多少客戶投訴會導致特定的司機被提升到下一個級別的詳細信息。

由于企業(yè)可以獲取的員工數(shù)據(jù)越來越多，技術進步迅猛，行為推薦未來可能還會繼續(xù)。加入這一潮流的企業(yè)需要謹慎地管理他們的推薦技巧，以便通過創(chuàng)建雙贏的解決方案、投資員工數(shù)據(jù)收集、存儲和處理的透明度來保持合法性。

?*本文節(jié)選自《哈佛商業(yè)評論》中文版 2021年6月刊文章《算法推薦未必不道德》。