新的“分類模型”能夠感知人類對與之合作的智能機器信任程度，這是朝著提高互動和團隊合作質(zhì)量邁出的一步。整個研究領(lǐng)域的長期目標是設(shè)計出能夠改變?nèi)祟愋袨?、增強人類信任的智能機器。

新模型是由普渡大學(xué)機械工程學(xué)院的助理教授Neera Jain和副教授Tahira Reid領(lǐng)導(dǎo)的研究開發(fā)出來的。智能機器，更廣泛地說，智能系統(tǒng)在人類的日常生活中越來越普遍。隨著人們越來越需要與智能系統(tǒng)互動，信任成為協(xié)同互動的一個重要因素。例如飛機駕駛員和工業(yè)工人經(jīng)常與自動化系統(tǒng)進行交互，如果人類認為系統(tǒng)不穩(wěn)定，他們有時會不必要地推翻這些智能機器，眾所周知人類的信任是人類和機器之間成功互動的關(guān)鍵。

博科園-科學(xué)科普：研究人員開發(fā)了兩種類型的“基于分類器的經(jīng)驗信任傳感器模型”，朝著改善人類和智能機器之間的信任邁出了一步。這項工作與普渡大學(xué)的巨大飛躍慶典一致，作為普渡大學(xué)150周年校慶的一部分，它表彰了該校在人工智能、算法和自動化方面的全球進步。這是為期一年的“創(chuàng)意節(jié)”的四個主題之一，旨在展示普渡大學(xué)作為解決現(xiàn)實問題的智識中心的地位。這些模型使用兩種技術(shù)來測量信任:腦電圖和皮膚電反應(yīng)。第一組記錄腦電波模式，第二組監(jiān)測皮膚電特性的變化，提供與信任相關(guān)的心理生理學(xué)“特征集”。45名受試者戴上無線腦電圖耳機，一只手戴著測量皮膚電流反應(yīng)的設(shè)備。其中一個新模型是“通用信任傳感器模型”，對所有45名參與者使用相同的一組心理生理學(xué)特征。

另一個模型是為每個人定制的，這提高了平均精度，但代價是增加了訓(xùn)練時間。這兩個模型的平均準確率分別為71.22%和78.55%。這是第一次使用腦電圖測量實時或不延遲地測量信任。Jain說：我們正在以一種非常新的方式使用這些數(shù)據(jù)，是在連續(xù)不斷地觀察它，而不是在特定的觸發(fā)或事件之后觀察腦電波。在交互智能系統(tǒng)計算機械交易協(xié)會的一期特刊中，有一篇研究論文詳細介紹了這一發(fā)現(xiàn)?！度A爾街日報》的特刊名為《智能人機交互中的信任與影響》。論文作者為機械工程研究生Kumar Akash;前研究生胡萬林，現(xiàn)為斯坦福大學(xué)博士后研究員（Jain和里德）。我們有興趣利用反饋控制原理來設(shè)計能夠?qū)崟r響應(yīng)人類信任水平變化的機器，從而建立和管理人機關(guān)系中的信任

為了做到這一點，需要一個傳感器來評估人類的信任水平，同樣是實時的。本文的研究結(jié)果表明，心理生理測量可以用于這一過程。人對機器的信任問題對于“人-代理集體”的高效運行至關(guān)重要。未來將圍繞著需要人和機器之間有效和成功的協(xié)調(diào)與協(xié)作的人-agent集體構(gòu)建。例如，在自然災(zāi)害中，有一群機器人幫助救援隊。在我們的工作中，我們只與一個人和一臺機器打交道，但最終我們希望擴大到由人和機器組成的團隊。算法已被引入以實現(xiàn)各種過程的自動化。但是仍然有人類在那里監(jiān)督正在發(fā)生的事情，通常會有一個覆蓋功能，如果他們認為某件事不對，他們可以收回控制權(quán)。

有時這種行為是沒有根據(jù)的：在某些情況下，人類可能不理解正在發(fā)生的事情，因此他們不信任系統(tǒng)能做出正確的事情。所以即使他們真的不應(yīng)該這么做，他們也會奪回控制權(quán)。在某些情況下，例如飛行員超越自動駕駛儀，奪回控制權(quán)實際上可能會阻礙飛機的安全運行，造成事故。設(shè)計能夠建立并維持與人類信任的智能機器的第一步是設(shè)計一種傳感器，使機器能夠?qū)崟r評估人類的信任水平。為了驗證他們的方法，581名在線參與者被要求操作一個駕駛模擬，在這個模擬中，計算機識別道路障礙。在某些情況下，計算機100%正確地識別出障礙，而在其他情況下，計算機50%錯誤地識別出障礙。所以在某些情況下，它會告訴你有障礙，所以你踩下剎車，避免了事故。

但在其他情況下，它會錯誤地告訴你沒有障礙，所以你無緣無故地剎車。測試使研究人員能夠識別與人類對智能系統(tǒng)信任相關(guān)的心理生理特征，并據(jù)此建立信任傳感器模型。假設(shè)在可靠的試驗中，信任水平會很高，而在錯誤的試驗中，信任水平會很低。通過收集581名在線參與者的反饋，驗證了這一假設(shè)。結(jié)果表明，該方法能有效地誘導(dǎo)智能機器的信任和不信任。為了實時評估信任，需要持續(xù)提取和評估關(guān)鍵心理生理測量值的能力，這項研究工作首次將實時心理生理測量用于開發(fā)人類信任傳感器。腦電圖耳機通過九個通道記錄信號，每個通道接收大腦的不同部分。每個人的腦電波都不一樣，所以需要確保你在構(gòu)建一個適用于所有人的分類器。

對于自主系統(tǒng)，人類信任可以分為三類:性格信任、情境信任和學(xué)習(xí)信任。素質(zhì)信任是指信任的組成部分，它依賴于性別和文化等具有潛在偏見的人口統(tǒng)計數(shù)據(jù)。應(yīng)該考慮到一些細微的差別，例如女性的信任與男性不同，信任也可能受到年齡和國籍差異的影響。情景信任可能會受到任務(wù)風(fēng)險或難度的影響，而學(xué)習(xí)則是基于人類過去使用自治系統(tǒng)的經(jīng)驗。他們開發(fā)的模型被稱為分類算法：能夠利用這些模型來區(qū)分一個人何時可能感到信任，何時可能感到不信任。Jain和Reid還研究了性格信任，以考慮性別和文化差異，以及能夠根據(jù)數(shù)據(jù)預(yù)測未來信任將如何變化的動態(tài)模型。

博科園-科學(xué)科普｜研究/來自：普渡大學(xué)

參考:《華爾街日報》（智能人機交互中的信任與影響）

博科園-傳遞宇宙科學(xué)之美