伴隨Disco Diffusion、ChatGPT等生成式AI產(chǎn)品相繼問世，AIGC正在掀起一場新的工業(yè)革命。近日，普華永道的分析師對外發(fā)布了關(guān)于生成式AI升級帶來的十一大安全趨勢研判，呼吁全球關(guān)注人工智能安全風(fēng)險帶來的巨大挑戰(zhàn)。

金融行業(yè)信息化建設(shè)起步早，已成為人工智能應(yīng)用最佳的領(lǐng)域之一，然而，技術(shù)創(chuàng)新也帶來了金融欺詐、交易公平等風(fēng)險。馬上消費(fèi)金融股份有限公司（以下簡稱“馬上消費(fèi)”）作為科技驅(qū)動的金融機(jī)構(gòu)，通過主動擁抱監(jiān)管、建立消保委員會、嚴(yán)格數(shù)據(jù)管理、制定行業(yè)標(biāo)準(zhǔn)、加強(qiáng)技術(shù)人才培養(yǎng)與技術(shù)研發(fā)投入等方式，積極應(yīng)對人工智能技術(shù)在消費(fèi)金融領(lǐng)域的安全問題。

針對當(dāng)前行業(yè)面臨的人工智能安全風(fēng)險挑戰(zhàn)，馬上消費(fèi)人工智能研究院院長陸全從人工智能在金融行業(yè)應(yīng)用的現(xiàn)狀以及挑戰(zhàn)兩個方面分享對策與建議。

技術(shù)是把雙刃劍，效益與風(fēng)險并存

金融行業(yè)因客戶群、龐大數(shù)據(jù)庫龐大等特性，在客服、投顧、風(fēng)控等場景中人工智能技術(shù)應(yīng)用成熟度處于領(lǐng)先地位。通過對大型數(shù)據(jù)集的學(xué)習(xí)分析，提供快速響應(yīng)互動、個性化投資推薦等客戶服務(wù)，提供異常數(shù)據(jù)檢測、用戶行為分析等機(jī)構(gòu)決策支撐。與此同時，在這些應(yīng)用場景中，也存在著三大安全風(fēng)險。

數(shù)據(jù)濫用造成的隱私泄露、金融欺詐風(fēng)險。為保障金融服務(wù)質(zhì)量，需要采集大量數(shù)據(jù)處理分析，對數(shù)據(jù)的采集存在擴(kuò)大化問題，過度采集用戶的行為、偏好等隱私數(shù)據(jù)。

模型偏差造成的貸款歧視、交易公平風(fēng)險。人工智能技術(shù)應(yīng)用在信貸領(lǐng)域，可快速、低成本地對潛在借款人進(jìn)行準(zhǔn)確的評估，與傳統(tǒng)的信用評分體系相比，人工智能信用評分更加復(fù)雜。模型對大量用戶數(shù)據(jù)進(jìn)行處理，建立多數(shù)人適用的評估規(guī)則，但存在認(rèn)知和數(shù)據(jù)偏差導(dǎo)致對特定人群的信用偏見，產(chǎn)生貸款等服務(wù)歧視。

攻擊破壞造成的財產(chǎn)損失、業(yè)務(wù)停滯風(fēng)險。金融行業(yè)相較于其他行業(yè)，對系統(tǒng)穩(wěn)定和數(shù)據(jù)的依賴性更強(qiáng)，但由于人工智能技術(shù)的局限性存在脆弱易受攻擊的特點(diǎn)，面對攻擊造成的財產(chǎn)、大量數(shù)據(jù)丟失的損失不可估量，技術(shù)不穩(wěn)定性對自身業(yè)務(wù)造成致命影響，可能直接導(dǎo)致業(yè)務(wù)停滯。

技術(shù)攻防對抗，創(chuàng)新升級新挑戰(zhàn)

人工智能在實(shí)踐和應(yīng)用中面臨著諸多挑戰(zhàn)，由于AI模型、數(shù)據(jù)、系統(tǒng)的不成熟性造成的欺詐和安全問題不容忽視。人工智能技術(shù)開展針對自身的攻防安全技術(shù)研究，促使技術(shù)應(yīng)用向可信、可靠、安全方向發(fā)展。

人臉識別攻擊，多模態(tài)融合防護(hù)。金融行業(yè)對身份認(rèn)證的基礎(chǔ)需求加快人臉識別的應(yīng)用，不法分子通過圖片、3D打印等物理方式攻擊突破人臉識別系統(tǒng)進(jìn)行資金盜取詐騙。多模態(tài)生物識別技術(shù)相較于單一生物特征，通過設(shè)計(jì)融合算法，綜合人臉幾何特征、聲紋、虹膜等多種特征，彌補(bǔ)某些生物特征容易被偽造的弱點(diǎn)，提升識別精確度，形成對人臉識別攻擊的技術(shù)防御。

馬上消費(fèi)在多模態(tài)人臉識別應(yīng)用中還加入了光電體積描記術(shù)識別、光場相機(jī)活體識別等活體檢測技術(shù)，持續(xù)進(jìn)行防偽技術(shù)攻關(guān)，為客戶人身財產(chǎn)安全筑造堅(jiān)實(shí)的防護(hù)屏障。

數(shù)據(jù)污染攻擊，增強(qiáng)優(yōu)化防護(hù)。數(shù)據(jù)污染攻擊通過投入污染數(shù)據(jù)，改變模型反饋機(jī)制，將惡意文件標(biāo)記為善意的，讓系統(tǒng)做出錯誤的行為。在金融行業(yè)中，攻擊驗(yàn)證環(huán)節(jié)的反饋，破解認(rèn)證系統(tǒng)穩(wěn)定性，可實(shí)施非法轉(zhuǎn)賬等詐騙行為。行業(yè)一般使用數(shù)據(jù)增強(qiáng)、穩(wěn)健優(yōu)化、模型遷移等方式來提高模型穩(wěn)定性，馬上消費(fèi)在此基礎(chǔ)上增設(shè)了異常檢測機(jī)制，對用戶訪問進(jìn)行識別，不匹配預(yù)期模型和數(shù)據(jù)集的項(xiàng)目進(jìn)行異常數(shù)據(jù)測試，通過刪減調(diào)整以減輕異常數(shù)據(jù)對模型的干擾。

模型竊取攻擊，多模型加密防護(hù)。模型竊取攻擊以模型重建和影子模型的形式獲取模型參數(shù)竊取重要商業(yè)決策模型，通常會造成用戶身份信息、交易數(shù)據(jù)、企業(yè)商業(yè)秘密等敏感信息泄露。馬上消費(fèi)通過將機(jī)器學(xué)習(xí)模型與加密技術(shù)結(jié)合起來，利用差分隱私技術(shù)、多方安全計(jì)算技術(shù)等實(shí)現(xiàn)在加密條件下保護(hù)訓(xùn)練過程數(shù)據(jù)的隱私性。同時，將數(shù)據(jù)分區(qū)訓(xùn)練多個模型，根據(jù)多個模型的結(jié)果去做決策，提升模型竊取難度，抗惡意用戶訪問。

目前的人工智能安全技術(shù)是在特定的攻擊情況中針對性解決一些安全問題，實(shí)際人工智能安全風(fēng)險沒有根本的技術(shù)解決方法。所謂“道高一尺，魔高一丈”，人工智能安全將持續(xù)處于一種攻防不斷對抗的狀態(tài)，因此相應(yīng)的技術(shù)必須不斷更新升級，技術(shù)創(chuàng)新會不斷帶來新挑戰(zhàn)。

行業(yè)挑戰(zhàn)任重道遠(yuǎn)，合力推動技術(shù)向善

人工智能的安全風(fēng)險取決于技術(shù)發(fā)展及其安全可控的程度，安全保障需要社會全體的共同參與，為人工智能發(fā)展應(yīng)用建立安全邊界、做好自我監(jiān)管是未來長期我們要面臨的挑戰(zhàn)。

2022年3月，馬上消費(fèi)牽頭成立行業(yè)首個AIF聯(lián)盟，堅(jiān)持對金融黑產(chǎn)“零”容忍態(tài)度，凝聚同業(yè)合力，一同打擊金融黑產(chǎn)；在體制建設(shè)上，將消保納入頂層設(shè)計(jì)，實(shí)現(xiàn)100%產(chǎn)品和服務(wù)標(biāo)準(zhǔn)化消保評審體系，定期專項(xiàng)監(jiān)督，做到消保全流程管控，使客戶滿意度持續(xù)提升。

依托科技研發(fā)創(chuàng)新，參與超30項(xiàng)金融科技標(biāo)準(zhǔn)編制工作，涉及研發(fā)運(yùn)營一體化能力成熟度、開發(fā)平臺通用能力要求等，獲得28項(xiàng)人工智能與交易安全領(lǐng)域備案認(rèn)證，在標(biāo)準(zhǔn)及認(rèn)證方面表現(xiàn)優(yōu)秀，引領(lǐng)消金行業(yè)規(guī)范化發(fā)展。

然而，行業(yè)應(yīng)對人工智能安全風(fēng)險的挑戰(zhàn)依然任重道遠(yuǎn)，各金融機(jī)構(gòu)、科技企業(yè)仍需高度重視、積極迎接挑戰(zhàn)，提升人工智能技術(shù)研發(fā)能力，從數(shù)據(jù)治理、強(qiáng)化監(jiān)管、規(guī)范制定方面降低風(fēng)險，提供優(yōu)質(zhì)高效的金融服務(wù)，推動金融服務(wù)向智能安全可信方向發(fā)展。