香港的一家企業(yè)。財(cái)務(wù)部門打來了一個(gè)電話。是該公司的首席財(cái)務(wù)官（CFO）。他說把3500萬美元匯到特定賬戶。接到電話的職員按照CFO的要求執(zhí)行了這一操作。但該電話是利用人工智能（AI）技術(shù)復(fù)制CFO的聲音并惡意利用的網(wǎng)絡(luò)攻擊。

全球安全企業(yè)Acronis通過《上半年結(jié)算網(wǎng)絡(luò)威脅報(bào)告》公開了上述AI被惡意利用的網(wǎng)絡(luò)攻擊案例。他還警告說：“包括聊天GPT在內(nèi)的生成型AI技術(shù)已經(jīng)被用于生成網(wǎng)絡(luò)攻擊和惡意內(nèi)容?！?/p>

代替惡意代碼編寫、個(gè)性化釣魚郵件。

Acronis根據(jù)從全世界100多萬個(gè)終端收集的數(shù)據(jù)發(fā)布的這份報(bào)告警告說：“通常常用的生成型AI使用方法是幫助犯罪分子?！?/p>

代表性的是，AI代為撰寫惡意電子郵件，大大減少了攻擊者的辛苦?？梢允褂脦讉€(gè)關(guān)鍵詞創(chuàng)建偽裝成銀行安全確認(rèn)或郵件傳遞失敗通知等的釣魚電子郵件。甚至AI還會將文本翻譯成多種語言，根據(jù)當(dāng)?shù)厍闆r進(jìn)行修改。也可以使用公司網(wǎng)站或社交媒體賬號上的信息發(fā)送更加個(gè)性化的釣魚電子郵件。

同時(shí)，生成型AI也被用于惡意代碼的制作。據(jù)Acronis介紹，生成型AI模型可以用python、go、rust等語言編寫編程代碼。也就是說，攻擊者無需花很長時(shí)間進(jìn)行前期工作和學(xué)習(xí)，就可以輕松地編寫惡意代碼。

生成型AI在理解程序代碼方面也表現(xiàn)出了出色的性能。因此，網(wǎng)絡(luò)犯罪分子可以將源代碼粘貼到程序代碼中，并詢問潛在的漏洞。如果發(fā)現(xiàn)漏洞，可以利用重新生成的AI模型為新攻擊編寫Exploit代碼。

用使用我的臉的裸照威脅？犯人是AI。

阿克羅尼斯補(bǔ)充說：“應(yīng)該利用這種操作技術(shù)冒充熟人，擺脫緊急情況?！辈⒀a(bǔ)充說：“也可以提高要錢詐騙的可信度?！彼€警告說，生成型AI可能會用于性剝削犯罪，即制作包含用戶臉部的裸照，如果不支付費(fèi)用，就會威脅朋友分享照片。

不過，Acronis補(bǔ)充說：“目前很難穩(wěn)定地檢測AI生成的圖像、語音和視頻。目前對該領(lǐng)域的研究正在積極進(jìn)行?！?/p>

Acronis強(qiáng)調(diào)了采取前瞻性網(wǎng)絡(luò)保護(hù)措施的必要性。他強(qiáng)調(diào)，要保持網(wǎng)絡(luò)安全態(tài)勢，需要結(jié)合反惡意軟件、端點(diǎn)檢測和響應(yīng)（EDR）、數(shù)據(jù)泄露防護(hù)（DLP）、電子郵件安全、漏洞評估、補(bǔ)丁管理、遠(yuǎn)程監(jiān)控和管理（RMM）和備份功能的多層解決方案。

Acronis網(wǎng)絡(luò)保護(hù)研究公司副總裁坎迪·德維斯特說：“今年的威脅量比去年劇增，這表明犯罪分子正在擴(kuò)大和提高損壞系統(tǒng)和實(shí)施攻擊的方法。”“為了應(yīng)對動(dòng)態(tài)的威脅環(huán)境，組織需要一個(gè)靈活、全面的集成安全解決方案，能夠有效地應(yīng)對所有威脅。”