管理人工智能決策工具
邁克爾-羅斯 &?詹姆斯-泰勒
2021年11月10日
摘要：微觀決策的性質要求某種程度的自動化，特別是對于實時和較高數(shù)量的決策。自動化是由算法（決定如何進行微觀決策的規(guī)則、預測、約束和邏輯）實現(xiàn)的。而這些決策算法通常被描述為人工智能（AI）。關鍵問題是，人類管理者如何管理這些類型的算法驅動的系統(tǒng)。一個自主系統(tǒng)在概念上是非常容易的。想象一下，一輛沒有方向盤的無人駕駛汽車。司機只是告訴汽車要去哪里，并希望得到最好的結果。但是一旦有了方向盤，你就有問題了。你必須告知司機什么時候他們可能想要干預，他們如何干預，以及當需要干預時你會給他們多少通知。你必須仔細考慮你將向司機提供的信息，以幫助他們進行適當?shù)母深A。
你的企業(yè)對人工智能的使用只會增加，而這是一件好事。數(shù)字化使企業(yè)能夠在原子水平上運作，每天對一個客戶、產品、供應商、資產或交易做出數(shù)百萬個決定。但這些決定不能由在電子表格中工作的人類做出。
我們把這些細化的、由人工智能驅動的決策稱為 "微決策"（借用泰勒和雷登的 "足夠聰明的系統(tǒng)"）。它們需要一個完全的范式轉變，從做決定到做 "關于決定的決定"。你必須通過規(guī)則、參數(shù)和算法在一個新的抽象層次上進行管理。這種轉變正發(fā)生在每個行業(yè)和所有類型的決策中。在這篇文章中，我們提出了一個如何思考這些決策以及如何確定最佳管理模式的框架。
微觀決策需要自動化
微觀決策的性質要求某種程度的自動化，特別是對于實時和較高數(shù)量的決策。自動化是由算法（決定如何進行微觀決策的規(guī)則、預測、約束和邏輯）實現(xiàn)的。而這些決策算法通常被描述為人工智能（AI）。關鍵問題是，人類管理者如何管理這些類型的算法驅動的系統(tǒng)？
一個自主系統(tǒng)在概念上是非常容易的。想象一下，一輛沒有方向盤的無人駕駛汽車。司機只需告訴汽車要去哪里，并希望得到最好的結果。但是一旦有了方向盤，你就有問題了。你必須告知司機什么時候他們可能想要干預，他們如何干預，以及當需要干預時你會給他們多少通知。你必須仔細考慮你將向司機展示的信息，以幫助他們進行適當?shù)母深A。
對于任何微觀決策來說也是如此。當有人類參與的時候，你需要仔細思考如何設計一個決策系統(tǒng)，使人類能夠與機器進行有意義的互動。
我們開發(fā)的四個主要管理模式根據(jù)人類干預的水平和性質而有所不同：我們稱它們?yōu)镠ITL、HITLFE、HOTL、HOOTL。重要的是要認識到這是一個譜系，雖然我們已經拉出了關鍵的管理模式，但還有基于人和機器之間的分割，以及人與系統(tǒng)接觸的管理抽象水平的子變種。
管理選項的范圍
循環(huán)中的人（HITL）：人在機器的協(xié)助下。在這種模式下，人在做決策，機器只提供決策支持，或對一些決策或部分決策進行部分自動化。這通常被稱為智能放大（IA）。
收集和處理廢物和回收是一項復雜的業(yè)務，從天氣到當?shù)氐脑胍魲l例，從停車場布局到門鎖，從回收類型到傾倒地點，司機的可用性和卡車的能力，都在有效的操作中發(fā)揮作用。一家財富500強公司正在大力投資于使用人工智能來改善其運營。他們認識到，人工智能的價值往往來自于幫助人類更好地完成他們的工作。一個例子是在幫助調度員更有效地處理票據(jù)和路線。許多事情可能會妨礙一個順利的服務事件，例如，需要一個特定的鑰匙或代碼，有可能或沒有可能取貨的時間窗口，寬度和長度限制，讓東西被移動或打開的指示，臨時施工，等等。
最近開發(fā)的一個機器人在多個系統(tǒng)中爬行所有的票據(jù)和請求，以確定任何可能影響某個特定站點的東西，并將其提請調度員注意。它能主動識別當前設置的路線的所有可能問題（并在白天增加、移動或刪除站點時重新進行識別），并能在調度員努力尋找將請求添加到飛行路線的最佳方式時，被他們反應性地使用。人類調度員監(jiān)測系統(tǒng)的工作，通過自動處理數(shù)以千計的服務票據(jù)的決定，釋放出他們一天中20-25%的時間。
人工處理異常情況的循環(huán)（HITLFE）：在這種模式下，大多數(shù)決策是自動化的，人類只處理例外情況。對于例外情況，系統(tǒng)在做出決定之前需要人的一些判斷或輸入，盡管它不太可能要求人做出整個決定。人類還控制著決定哪些例外情況被標記為審查的邏輯。
一個美容品牌開發(fā)了一種機器學習（ML）算法來預測不同類型的促銷活動的銷售提升，以取代現(xiàn)有的人力驅動的方法。ML預測考慮了諸如報價、營銷支持、季節(jié)性和自相殘殺等因素來創(chuàng)建一個自動預測。對于許多促銷活動，ML預測效果很好，但在最初的成功之后，很快就出現(xiàn)了一些極端的失敗，導致了大量的銷售損失，管理人員很快就失去了信心。當數(shù)據(jù)科學家審查預測結果時，他們發(fā)現(xiàn)ML算法在預測某些類型的促銷活動時很困難。他們沒有放棄這個項目，而是開發(fā)了一個HITLFE方法。關鍵是將機器對其預測的信心水平編碼，并讓人類在機器信心不足的情況下對預測進行例外審查。
循環(huán)中的人（HOTL）：在這里，機器得到了人的協(xié)助。機器做出微觀決策，但人類審查決策結果，并可以為未來的決策調整規(guī)則和參數(shù)。在一個更高級的設置中，機器還推薦參數(shù)或規(guī)則的變化，然后由人類批準。
一家歐洲食品遞送企業(yè)需要管理其自行車隊，并使用電子表格來計劃未來一小時/一天/一周所需的 "遞送時段 "的數(shù)量。然后，他們部署了各種激勵措施，例如，增加每次送貨率，使司機的供應與預期需求相匹配。這是一個高度手動和不精確的過程，他們決定開發(fā)一個完全自動化的系統(tǒng)來測試他們的手動方法。結果是有趣的。有時人的表現(xiàn)更好，有時機器的表現(xiàn)更好。他們意識到，他們對問題的構思有誤。真正的問題是如何讓人類和機器進行合作。這導致了第二種方法，即不是由人類在司機層面進行管理，而是設計一套控制參數(shù)，讓管理人員對風險、成本和服務進行權衡。這種方法承認了系統(tǒng)的動態(tài)性質，需要做出可能隨時間變化的權衡，以及保持工作的趣味性的關鍵需要！
循環(huán)外的人（HOOTL）：在這種模式下，機器由人監(jiān)控。機器做出每一個決定，人類只通過設置新的約束和目標進行干預。改進也是一個自動化的閉環(huán)。根據(jù)人類的反饋，調整是自動化的。
五月花號自主船正在利用雷達、GPS、人工智能驅動的相機、數(shù)十個傳感器和多個邊緣計算設備探索世界海洋。但它沒有船員。由于人類完全置身事外，"五月花 "號必須感知其環(huán)境，預測航線，識別危險，應用碰撞規(guī)則，并遵守海洋規(guī)則。它的人工智能船長自主地完成這些工作，為實現(xiàn)負責該項目的人類事先設定的目標而行動。在岸上的人類只是告訴它該往哪里走。
可能出錯的地方
一家美國旅游企業(yè)在谷歌上實施了一個完全自動化的關鍵詞營銷HOOTL系統(tǒng)。營銷團隊能夠輸入預算和目標，然后系統(tǒng)自動確定支出的最佳分配和數(shù)百萬個關鍵詞的競價邏輯。該系統(tǒng)一開始運行良好，并帶來了效率的提高和結果的改善。然而，當系統(tǒng)開始表現(xiàn)不佳時，團隊無法解釋原因或采取任何糾正措施。這是一個完全的黑匣子系統(tǒng)，基于專有的算法，但在實踐中是無法管理的，于是團隊又回到了原來基于規(guī)則的系統(tǒng)。
如果績效提高了（哪怕是在一段時間內），管理者就會很高興，但如果決策開始表現(xiàn)不佳，要解開新流程中的哪一個元素，是一項極其復雜的工作。比如說：一個算法決策可能太不透明，無法通過監(jiān)管部門的審查，也無法向不高興的客戶解釋。為響應算法收集的反饋而自動改變算法，可能會造成算法偏離軌道的競賽狀況。太多的決定可能被提交給人工審查，極大地限制了算法的價值?；蛘呷祟悓λ惴ǖ膮⑴c可能處于錯誤的水平，導致算法被人類用戶排擠。
解決方案的一部分是為一個特定的決策挑選正確的人類參與模式。此外，每一個微觀決策系統(tǒng)都應該被監(jiān)控，無論有多少人參與。監(jiān)測可以確保決策是 "好的"，或者至少適合現(xiàn)在的目的，同時也創(chuàng)造了發(fā)現(xiàn)問題所需的數(shù)據(jù)，并隨著時間的推移系統(tǒng)地改善決策。衡量決策的有效性也很關鍵：至少應該掌握兩個以決策有效性為重點的指標。沒有一個現(xiàn)實世界的商業(yè)決策可以通過只關注一個指標而得到優(yōu)化，總是有一個權衡。此外，你應該始終捕捉關于系統(tǒng)如何做出決策的信息，而不僅僅是實際做出的決策。這既可以有效地解釋 "壞 "的決策，也可以將次優(yōu)的結果與決策方式的具體細節(jié)相匹配。最后，你應該跟蹤業(yè)務結果，并將其與決策的方式相匹配。
決定哪種模式適合你
重要的是要認識到，這些系統(tǒng)將隨著時間的推移而發(fā)展，由新的技術、組織對做出更多手術決定的愿望以及管理層對自動化的更大信心所促成。你必須決定什么程度的人力管理是可能的和可取的，以及你對風險和迭代的胃口。沒有正確的答案。
無論你采用哪種模式，我們認為將人工智能放在組織結構圖和流程設計中是至關重要的，以確保人類管理者對其產出感到負責。對更多自主系統(tǒng)的需求、消費者對即時反應的需求、供應鏈的實時協(xié)調以及遠程自動化環(huán)境，所有這些都使在你的組織內增加人工智能的使用成為不可避免的。這些系統(tǒng)將代表你做出越來越精細的微觀決策，影響到你的客戶、你的員工、你的合作伙伴和你的供應商。為了成功，你需要了解你與人工智能互動的不同方式，并為你的每個人工智能系統(tǒng)挑選正確的管理選項。
內容
