原創(chuàng) | 文 BFT機(jī)器人

克里斯是Sift的首席執(zhí)行官，他在風(fēng)險(xiǎn)投資支持和上市SaaS公司方面擁有超過30年的經(jīng)驗(yàn)，其中包括Ping Identity。Sift為企業(yè)提供了一種終止支付欺詐的解決方案，他們通過一個(gè)單一、直觀的控制臺(tái)構(gòu)建了端到端的解決方案。這種解決方案消除了使用多個(gè)斷開連接的工具、單一用途的軟件以及消耗運(yùn)營(yíng)資源的不完整見解的需求。


下面是針對(duì)生成式人工智能安全威脅的專訪，采訪對(duì)象是Sift首席執(zhí)行官克里斯。

?新的挑戰(zhàn)?

采訪者：在你之前的職位上，你是身份安全平臺(tái)Ping identity的首席運(yùn)營(yíng)官，在2019年公司上市的過程中發(fā)揮了關(guān)鍵作用，你從這段經(jīng)歷中得到了什么重要的收獲？

克里斯：讓公司上市是一項(xiàng)艱巨的任務(wù)，在這個(gè)過程中我學(xué)到了很多。在這個(gè)里程碑之前和之后，開發(fā)產(chǎn)品和擴(kuò)大公司規(guī)模教會(huì)了我如何解決復(fù)雜的組織挑戰(zhàn)，如何繼續(xù)創(chuàng)新和重新構(gòu)想用戶體驗(yàn)，如何發(fā)展團(tuán)隊(duì)，并賦予他們最好的工作能力。在我的整個(gè)職業(yè)生涯中，我了解到任何角色的任何成功都必須從對(duì)客戶、合作伙伴和團(tuán)隊(duì)成員的深刻理解開始。

采訪者：您于2023年1月加入sift擔(dān)任首席執(zhí)行官。是什么吸引了你去迎接這個(gè)新的挑戰(zhàn)？

克里斯：欺詐是一個(gè)不斷增長(zhǎng)和演變的問題，其利害關(guān)系是顯而易見的。據(jù)估計(jì),到2023年底，全球電子商條欺詐損失將達(dá)到480億美元（比2022年同比增長(zhǎng) 16%），全球企業(yè)平均將10%的收入用于管理欺詐。但如果一家公司未能有效管理欺詐，它可能會(huì)通過排除或“侮辱”合法客戶來(lái)?yè)p失收入。

Sift在利用機(jī)器學(xué)習(xí)解決這一問題方面具有先發(fā)優(yōu)勢(shì)，其核心技術(shù)和全球數(shù)據(jù)網(wǎng)絡(luò)使其在防欺詐領(lǐng)域脫穎而出。包括Twitter、DoorDash、Poshmark和秉持在內(nèi)的34000多家網(wǎng)站和應(yīng)用都依賴于Sift。這種差異化，加上對(duì)長(zhǎng)期客戶合作關(guān)系的強(qiáng)烈關(guān)注，讓我很容易就做出了加入Sift的決定。

?生成式AI存在的安全隱患?

采訪者：為什么生成式AI會(huì)對(duì)企業(yè)和消費(fèi)者構(gòu)成如此巨大的安全威脅？

克里斯：早期跡象顯示，生成式Al將改變騙子的游戲規(guī)則。以前的詐騙充斥著語(yǔ)法和拼寫錯(cuò)誤，所以更容易區(qū)分。有了生成式AI，不法分子可以更有效地模仿合法公司，通過網(wǎng)絡(luò)釣魚企圖欺騙消費(fèi)者提供敏感的登錄信息或財(cái)務(wù)信息。

生成式AI平臺(tái)甚至可以建議文本變體，允許欺詐者在單人平臺(tái)上創(chuàng)建多個(gè)不同的帳戶。例如，他們可以創(chuàng)建100個(gè)新的假約會(huì)資料來(lái)實(shí)施加密貨幣浪漫騙局，每個(gè)人都有一個(gè)獨(dú)特的人工智能生成的面孔和個(gè)人資料。通過這種方式，生成式AI正在實(shí)現(xiàn)欺詐的民主化，因?yàn)槿魏稳硕伎梢愿菀椎厥褂帽槐I的憑證或支付信息來(lái)欺騙他人，無(wú)論他們是否精通技術(shù)。

采訪者：Sift最近發(fā)布了一份題為“在AI復(fù)興中，消費(fèi)者和企業(yè)被欺詐淹沒”的報(bào)告，這份報(bào)告中最讓你驚訝的是什么？

克里斯：我們知道AI和自動(dòng)化將改變欺詐的格局，但這種轉(zhuǎn)變的速度和數(shù)量確實(shí)是驚人的。超過三分之二（68%）的美國(guó)消費(fèi)者表示，自去年11月以來(lái)，垃圾郵件和詐騙行為有所增加，而此時(shí)正是生成，AI 工具開始被廣泛采用的時(shí)候，我們認(rèn)為這兩種趨勢(shì)是密切相關(guān)的。同樣，我們觀察到賬戶接管(ATO)攻擊激增，與2022年全年相比，2023年第一季度ATO攻擊率激增427%。顯然，這些事件是相關(guān)的，因?yàn)樯墒紸I允許欺詐者創(chuàng)建更有說服力和可擴(kuò)展的騙局，從而導(dǎo)致一波ATO攻擊。

該報(bào)告還展示了“欺詐即服務(wù)”正在推進(jìn)的一些方式。Telegram上那些公開可用的論壇正在降低任何想要犯下各種濫用行為的人的進(jìn)入門檻一一這就是我們所說的欺詐民主化。我們的團(tuán)隊(duì)已經(jīng)看到越來(lái)越多的欺詐團(tuán)體現(xiàn)在將機(jī)器人攻擊作為一種服務(wù)來(lái)提供，我們強(qiáng)調(diào)了如何使用一種工具來(lái)欺騙消費(fèi)者為他們的金融賬戶提供一次性密碼。欺詐者正在使這些工具易于獲得，并以相對(duì)較小的費(fèi)用提供給其他人。

?Sift數(shù)字信任與安全平臺(tái)的出現(xiàn)?

采訪者：你能討論一下什么是“Sift 數(shù)字信任與安全平臺(tái)”嗎？

克里斯：有了Sift，公司可以自信地建立和部署，因?yàn)樗麄冎雷约簱碛斜Ｗo(hù)業(yè)務(wù)免受欺詐的工具。它將不法分子拒之門外，同時(shí)仍然為客戶提供無(wú)縫的體驗(yàn)一一減少摩擦，增加收入。

我們的使命是幫助每個(gè)人信任互聯(lián)網(wǎng)，我們的平臺(tái)使用機(jī)器學(xué)習(xí)和龐大的數(shù)據(jù)網(wǎng)絡(luò)來(lái)保護(hù)企業(yè)免受各種類型的欺詐和濫用。如果不是第一家將機(jī)器學(xué)習(xí)應(yīng)用于在線欺詐的公司，我們也是其中之一，所以我們積累了令人難以置信的大量洞察力，這反映在我們的全球機(jī)器學(xué)習(xí)模型中，這些模型每年處理超過1萬(wàn)億次事件。

這個(gè)平臺(tái)的美妙之處在于，我們擁有的客戶越多，我們的模型就越智能，這樣我們就可以始終優(yōu)化防止欺詐，同時(shí)減少真實(shí)用戶和客戶的摩擦。在平臺(tái)內(nèi)部，我們有Payment Protection，可以防止支付欺詐；賬戶防御(Account Defense)，防止賬戶接管攻擊;內(nèi)容完整性，阻止垃圾郵件和詐騙在用戶生成的內(nèi)容中發(fā)布；爭(zhēng)議管理，防止退款和友好欺詐。

?Sift平臺(tái)與詐騙平臺(tái)的區(qū)分?

采訪者：這個(gè)平臺(tái)如何與競(jìng)爭(zhēng)對(duì)手的欺詐工具區(qū)分開來(lái)？

克里斯：市場(chǎng)上不乏防欺詐供應(yīng)商，但大多數(shù)都屬于兩類:點(diǎn)解決方案或決策即服務(wù)。點(diǎn)解決方案往往具有狹窄的范圍，并且旨在解決一個(gè)用例，例如機(jī)器人檢測(cè)。決策即服務(wù)(decision -as-a-service)解決方案更全面，但缺乏許多欺詐管理能力，并且充當(dāng)了其決策邏輯的“黑匣子”。

Sift最顯著的特點(diǎn)之一是，我們提供了一種解決方案，可以打擊所有行業(yè)的多種欺詐類型。欺詐是一個(gè)與行業(yè)無(wú)關(guān)的挑戰(zhàn)，我們對(duì)一個(gè)行業(yè)的欺詐問題如何成為另一個(gè)行業(yè)的欺詐問題有著獨(dú)特的見解。在我們所有的能力中一一決策引警、案例管理、編排、報(bào)告和模擬一一我們也優(yōu)先考慮將控制權(quán)交給客戶。

每個(gè)公司都是獨(dú)一無(wú)二的，這種自定義能力意味著可以使用自定義規(guī)則修改邏輯，并且可以在平臺(tái)內(nèi)調(diào)整模擬。我們也認(rèn)為，防止欺詐的最好辦法就是透明化。我們的決策引警為分析師提供解釋，以便他們了解交易被批準(zhǔn)、質(zhì)疑或拒絕的原因。我們還提供報(bào)告，以便您可以衡量模型的性能，以了解是否需要調(diào)整。

?Sift分?jǐn)?shù)的使用?

采訪者：你能討論一下什么是“Sift 分?jǐn)?shù)”，以及它如何使所使用的機(jī)器學(xué)習(xí)不斷自我完善嗎？

克里斯：Sift客戶使用我們的機(jī)器學(xué)習(xí)算法來(lái)檢測(cè)欺詐模式并防止對(duì)網(wǎng)站或應(yīng)用程序的攻擊。Sift分?jǐn)?shù)是一個(gè)數(shù)字，從0到100，由算法給出每個(gè)事件（或活動(dòng)），以表明行為是欺詐的可能性。雖然我們的每個(gè)產(chǎn)品都有自己的一套機(jī)器學(xué)習(xí)模型支持，但我們也提供為Sift客戶量身定制的自定義算法。例如，如果你銷售的是保險(xiǎn)、易腐食品或服裝，那么每個(gè)行業(yè)的欺詐信號(hào)可能會(huì)有所不同。

Sift利用我們龐大的全球網(wǎng)絡(luò)，通過每個(gè)定制模型運(yùn)行數(shù)千個(gè)信號(hào)，分析諸如一天中的時(shí)間、電子郵件地址特征和嘗試登錄次數(shù)等細(xì)節(jié)。這些信號(hào)結(jié)合起來(lái)構(gòu)成了一個(gè)特定事件(如登錄或交易)的得分。Sift分?jǐn)?shù)從來(lái)不在客戶之間共享，因?yàn)槊總€(gè)客戶的機(jī)器學(xué)習(xí)模型是不同的。

?什么叫文本聚類?

采訪者：Sift開發(fā)了一個(gè)有趣的產(chǎn)品來(lái)打擊詐騙和垃圾郵件，叫做文本聚類，這具體是什么？

克里斯：垃圾文本困擾著網(wǎng)絡(luò)平臺(tái)，垃圾郵件發(fā)送者經(jīng)常重復(fù)發(fā)布相同或非常相似的內(nèi)容我們構(gòu)建了文本聚類功能，作為內(nèi)容完整性的一部分，以便更容易識(shí)別這類文本并將其聚類在一起，以便分析人員可以決定是否采取批量操作。挑戰(zhàn)在于，并非所有重復(fù)的文本都是垃圾郵件。例如，一個(gè)電子商務(wù)賣家可能會(huì)在多人網(wǎng)站上列出相同的產(chǎn)品和描述。

為了有效地解決這一挑戰(zhàn)，我們需要一種方法來(lái)標(biāo)記我們想要檢測(cè)的新類型的內(nèi)容欺詐，同時(shí)也給予分析人員采取行動(dòng)的最終控制權(quán)。通過神經(jīng)網(wǎng)絡(luò)和機(jī)器學(xué)習(xí)的結(jié)合，文本聚類現(xiàn)在可以對(duì)相似的文本進(jìn)行分組，即使有輕微的變化。這些被標(biāo)記的內(nèi)容被標(biāo)記在一起，如果它實(shí)際上是垃圾郵件，分析師可以采取批量行動(dòng)將其刪除。

?以其人之道還治其人之身的自我保護(hù)法?

采訪者：企業(yè)如何才能最好地保護(hù)自己免受由生成式AI持續(xù)存在的對(duì)抗性攻擊或其他類型的惡意攻擊？

克里斯：超過一半的消費(fèi)者（54%）認(rèn)為，如果他們無(wú)意中向騙子提供了付款信息，而這些信息后來(lái)被用來(lái)進(jìn)行欺詐性購(gòu)買，他們不應(yīng)該承擔(dān)責(zé)任。近四分之一（24%）的消費(fèi)者認(rèn)為，進(jìn)行購(gòu)買的商家應(yīng)該承擔(dān)責(zé)任。這意味著阻止欺詐的責(zé)任在于消費(fèi)者每依賴的平臺(tái)和服務(wù)。

我們?nèi)匀惶幱谏墒紸l的早期階段，今天的威脅不會(huì)像我們六個(gè)月后看到的那樣。話雖如此，企業(yè)需要以其人之道還治其人之身，利用機(jī)器學(xué)習(xí)等AI技術(shù)在欺詐行為發(fā)生之前進(jìn)行打擊和制止。實(shí)時(shí)機(jī)器學(xué)習(xí)對(duì)于跟上欺詐的規(guī)模、速度和復(fù)雜程度至關(guān)重要。不拋棄過時(shí)或人工流程的商家將落后于已經(jīng)自動(dòng)化的欺詐者。采用這種端到端實(shí)時(shí)方法的公司將欺詐檢測(cè)準(zhǔn)確率提高了40%。這意味著可以更好地識(shí)別欺詐者，并在他們傷害你的業(yè)務(wù)或客戶之前阻止他們。

讀者感悟：

現(xiàn)如今是人工智能高速發(fā)展的時(shí)代，每個(gè)人，每個(gè)行業(yè)或多或少都受到人工智能的影響，然而，任何事物都有雙面性。人工智能是把雙刃劍，我們應(yīng)該把握好人工智能積極的一面，而后近可能克服不友好的一面，這樣人工智能才能造福人類世界。

作者?| 春花

排版 | 春花

審核 | 貓

若您對(duì)該文章內(nèi)容有任何疑問，請(qǐng)與我們聯(lián)系，將及時(shí)回應(yīng)。