隨著人工智能技術的高速發(fā)展，各類生成式人工智能系統(tǒng)為詐騙犯提供了前所未有的新“武器”。類似ChatGPT的大型語言模型可以輕松合成逼真的對話文本，用以進行電信或網(wǎng)絡詐騙。只需輸入類似“給某人寫一封要求匯款的郵件”這樣的提示，就可以獲得非常逼真的詐騙用語。這類系統(tǒng)甚至可以基于少量資料，合成任何人的面部或聲音，制作高質(zhì)量的深度偽造視頻。這極大地降低了進行身份盜用或聲音欺詐的門檻，使欺騙普通民眾或企業(yè)員工變得前所未有的容易。

根據(jù)美國政府的數(shù)據(jù)，2021年美國消費者遭網(wǎng)絡欺詐損失了創(chuàng)紀錄的80億美元，較2020年激增了70%。2022年該數(shù)據(jù)進一步激增至88億美元，同比增長超過40%。其中，投資詐騙導致的經(jīng)濟損失最大，冒名頂替詐騙最為常見。在 Deep Instinct對650名網(wǎng)絡安全專家的調(diào)查中，超過85%的專家認為，生成式人工智能技術正在助長詐騙犯罪。初創(chuàng)公司和跨國企業(yè)都成為了這類攻擊的受害者。一些初創(chuàng)公司就損失過數(shù)十萬美元資金，一家日本公司的董事聲音被深度克隆，造成了3500萬美元的巨額損失。

經(jīng)驗豐富的詐騙團伙已經(jīng)開始大規(guī)模運用人工智能生成工具，使其欺詐手段更具說服力。他們會偽裝成受害者的熟人或企業(yè)高管，利用生成的語音或圖片，向受害者發(fā)送逼真的短信或來電，請求匯款或執(zhí)行非正規(guī)交易。有時甚至可以完美模仿聲音打電話，聲稱親友遭遇綁架，需要立即匯款付贖金。這類社工攻擊成功率極高，且對老年人群體尤為具有殺傷力。

防范生成式人工智能欺詐面臨巨大挑戰(zhàn)。許多先進的安全防范手段，例如語音驗證、活體檢測等，都有可能被欺詐分子破解。他們可以利用同樣的人工智能技術，制作假身份或克隆語音來繞過這些驗證。一些業(yè)內(nèi)專家擔心，知名防詐騙公司的效能正在下降，它們需要不斷更新算法才能繼續(xù)有效應對新的攻擊手段。

我們每個人都需要提高警惕，多方采取防范措施。銀行或重要賬戶需要開啟多重驗證，避免依靠單一的語音或活體驗證。注意保護個人信息，減少社交媒體過度分享，避免被利用。與家人商定口令或密碼以核實身份，企業(yè)內(nèi)部也可以采取類似預防機制。如果來電可疑，可以試探提出非預期的問題，或要求回撥確認。長期來看，防止人工智能犯罪仍需要人工智能技術。這需要整個社會各界密切配合，共同應對這個新挑戰(zhàn)。

除了技術防范，法律監(jiān)管也需要跟上步伐。人工智能同時提供了巨大便利也開啟了犯罪新局面。相關部門有必要出臺政策，要求人工智能系統(tǒng)開發(fā)商在設計和部署產(chǎn)品時恪守道德底線，盡量減少技術被濫用的風險。其他部門也應加強國際合作，嚴厲打擊那些利用生成式人工智能進行跨國詐騙活動的犯罪集團。

目前，主流的人工智能系統(tǒng)開發(fā)商已采取一定措施，試圖減少其系統(tǒng)被濫用的可能。例如ChatGPT會直接拒絕一些非法或不道德的請求。但這類系統(tǒng)的開發(fā)還處在初級階段，仍存在很大改進空間。未來系統(tǒng)需要變得更智能，在滿足用戶合法需求的同時，也能夠有效識別和防范濫用intents。同時還需要建立完善的監(jiān)管制度，確保人工智能系統(tǒng)的健康發(fā)展。

綜上所述，生成式人工智能為網(wǎng)絡犯罪打開了潘多拉的魔盒，給個人和社會安全帶來前所未有的挑戰(zhàn)。我們必須全社會齊心協(xié)力，從技術研發(fā)、業(yè)界自律以及法規(guī)監(jiān)管等方面采取積極有效的應對措施，最大限度降低這項強大技術被濫用的風險，將其導向服務人類的正途。只有這樣，人工智能才能發(fā)揮其應有的巨大潛力，真正造福社會。共同應對人工智能時代的新議題，是這個時代賦予我們所有人的重要責任。