近日，國家網信辦公布了《生成式人工智能服務管理暫行辦法》，在 AI 技術“野蠻生長”的當下，為生成式 AI 有序健康發(fā)展，打下的基礎。

歷來前沿技術都是一把雙刃劍，AI 確實產生了傳播虛假信息、數(shù)據(jù)安全和偏見歧視等問題，同時，我們也可以利用 AI 來實現(xiàn)市場監(jiān)管，讓市場更高效、更安全地運行。

正是出于“AI for Good”的理念，Unity 正式宣發(fā)了用于游戲領域的惡意行為檢測解決方案，Safe Voice，這套先進的方案可利用前沿聲學和語義學知識來大規(guī)模識別游戲內的惡意行為。

通過分析獨特的聲音特征，如語氣、音量、語調、抑揚、情感和玩家互動的情形，Safe Voice 可快速察覺細微的差別，讓各工作室有能力更快地采取行動，并最終建立和培育起更為積極、安全、參與感更強的游戲社區(qū)。該方案可與 Unity 的語音解決方案 Vivox 無縫集成，為玩家的溝通交流再上一層保險。

“Unity 在持續(xù)深化游戲解決方案，為各工作室對抗游戲內的惡意與破壞行為、保護游戲社區(qū)提供深度支持，Safe Voice 就是這樣的典范。”Unity Gaming Services 的高級副總裁及總經理 Jeff Collins?說道，“通過 Safe Voice 的前沿技術，讓原本勞動與資源密集型的工作流程變得更加便捷、有效、可擴展。我們很高興能以更簡化的工具來實現(xiàn)反惡意斗爭、賦予工作室力量，為建設更安全、更包容的游戲環(huán)境開辟道路。”

Safe Voice 利用先進的機器學習算法，可以執(zhí)行主動檢測或根據(jù)玩家請求處理惡意檢測。當玩家給某些行為打上惡意或破壞標簽，它就會啟動；并且它還會監(jiān)視那些暗示惡意事件的游戲行為或活動（比如玩家們靜音了另一名玩家或突然退出）。儀表盤的詳細游戲會話報告，能讓監(jiān)督員們全面且細致地了解玩家間的互動，以便更好地監(jiān)測社區(qū)的健康。儀表盤的概覽部分能總結長期趨勢，暴露出那些最容易打斷游戲的行為，讓監(jiān)督員們能優(yōu)先作出反應。

熱門免費戰(zhàn)術射擊游戲《Rogue Company》的開發(fā)商 Hi-Rez Studios，最近就采用了 Safe Voice 來幫助管理社區(qū)惡意行為。

“Safe Voice 是一款突破性的工具，它能幫我們更好地理解社區(qū)?！?strong>《Rogue Company》的首席制作人 Tony Jones?說，“該工具能讓我們不僅從信任與安全的角度，還從宏觀的角度看到游戲內發(fā)生了什么。Safe Voice 儀表盤的額外數(shù)據(jù)還幫監(jiān)督員們快速找出了風險更高的用戶和事件，讓我們在事態(tài)進一步升級前更高效、有效地介入。”

Safe Voice 是 Unity 社區(qū)惡意解決方案套的首款產品，目前已啟動 beta 封測。開發(fā)者可申請測試資格：

https://create.unity.com/safe-voice-beta

關于 Safe Voice 的詳情，請訪問：

https://unity.com/products/safe-voice