7月23－24日，由國(guó)家互聯(lián)網(wǎng)信息辦公室、國(guó)家發(fā)展和改革委員會(huì)、工業(yè)和信息化部、福建省人民政府共同主辦的第五屆數(shù)字中國(guó)建設(shè)峰會(huì)在福州舉行。會(huì)上多次強(qiáng)調(diào)數(shù)字經(jīng)濟(jì)的重要性，而構(gòu)筑安全可信的網(wǎng)絡(luò)空間是做優(yōu)做強(qiáng)數(shù)字經(jīng)濟(jì)的重要前提條件之一。他趣作為一家國(guó)家高新技術(shù)企業(yè)，堅(jiān)定守護(hù)用戶(hù)社交安全，加強(qiáng)保護(hù)用戶(hù)數(shù)據(jù)信息，為構(gòu)建綠色安全網(wǎng)絡(luò)社交環(huán)境，推動(dòng)數(shù)字經(jīng)濟(jì)協(xié)調(diào)發(fā)展做出努力。

“鯨吞”審核體系升級(jí)，竭力營(yíng)造安全交友環(huán)境

在數(shù)字時(shí)代，信息洪流以前所未有的力量沖擊社會(huì)，互聯(lián)網(wǎng)平臺(tái)內(nèi)容量級(jí)具增加，內(nèi)容形態(tài)也向多媒體化發(fā)展，不僅只有文字，圖片、動(dòng)圖、語(yǔ)音、視頻、影像等信息都需要進(jìn)行監(jiān)測(cè)，這給平臺(tái)審查帶來(lái)新的問(wèn)題。為切實(shí)保障用戶(hù)權(quán)益，他趣自主搭建了“鯨吞”內(nèi)容審核平臺(tái)，采用大數(shù)據(jù)監(jiān)測(cè)、處理系統(tǒng)，并不斷完善“鯨吞”審核機(jī)制。

“鯨吞”每天都將過(guò)濾巨大的數(shù)據(jù)樣本，通過(guò)“鯨吞”所建立“機(jī)器初審+人工復(fù)審+全平臺(tái)抽審”的三級(jí)審查體系，信息被層層審核，不再擔(dān)心“漏網(wǎng)之魚(yú)”。同時(shí)“鯨吞”具備對(duì)圖片、文字、語(yǔ)音、視頻流媒體無(wú)差別的檢測(cè)能力，并引進(jìn)了多個(gè)過(guò)濾系統(tǒng)交叉審核以保障識(shí)別效率。面對(duì)信息內(nèi)容、形態(tài)多樣化的互聯(lián)網(wǎng)，“鯨吞”系統(tǒng)也能夠從容應(yīng)對(duì)。系統(tǒng)自動(dòng)對(duì)IP異常登錄、賬號(hào)基礎(chǔ)信息經(jīng)常變更等行為進(jìn)行標(biāo)記和預(yù)警，通過(guò)多場(chǎng)景的風(fēng)控策略體系切實(shí)保障用戶(hù)的信息安全。同時(shí)，針對(duì)不法分子常用于偽裝身份的圖片，自建網(wǎng)圖人像黑庫(kù)和詐騙犯文本器模型，對(duì)違規(guī)賬號(hào)進(jìn)行識(shí)別和封鎖，阻斷安全風(fēng)險(xiǎn)。

打造“玄武眼”AI風(fēng)控系統(tǒng)，促進(jìn)平臺(tái)預(yù)警預(yù)防能力

針對(duì)當(dāng)下侵犯用戶(hù)信息安全技術(shù)不斷提升的現(xiàn)象，他趣主動(dòng)出擊，對(duì)審核技術(shù)升級(jí)的同時(shí)也不斷提升平臺(tái)防御能力，打造了行之有效的“玄武眼”AI風(fēng)控系統(tǒng)。在管理過(guò)程中，“玄武眼”AI風(fēng)控系統(tǒng)將從“四個(gè)基于，一個(gè)依據(jù)”進(jìn)行有效預(yù)警預(yù)防，形成打防管控多維一體的內(nèi)容風(fēng)控系統(tǒng)，有效監(jiān)控異常用戶(hù)，在觸發(fā)嚴(yán)重風(fēng)險(xiǎn)時(shí)予以打擊限制。

運(yùn)作機(jī)制上，“玄武眼”AI風(fēng)控系統(tǒng)基于用戶(hù)資料、IP、設(shè)備、行為、內(nèi)容、大數(shù)據(jù)等信息，進(jìn)行多維度把控，智能分析層層把關(guān)。在注冊(cè)、登陸、使用過(guò)程中，“玄武眼”AI風(fēng)控系統(tǒng)基于用戶(hù)操作行為計(jì)算用戶(hù)可信環(huán)境，對(duì)數(shù)據(jù)甄別出的違法違規(guī)行為和用戶(hù)進(jìn)行剔除；基于模型策略精準(zhǔn)識(shí)別出可疑行為，召回可疑用戶(hù)；依據(jù)風(fēng)險(xiǎn)類(lèi)型、風(fēng)險(xiǎn)級(jí)別，“玄武眼”AI風(fēng)控系統(tǒng)對(duì)可疑風(fēng)險(xiǎn)進(jìn)行差異化核驗(yàn)，做到精準(zhǔn)預(yù)判；基于風(fēng)險(xiǎn)數(shù)據(jù)樣本，結(jié)合學(xué)習(xí)算法，“玄武眼”AI風(fēng)控系統(tǒng)實(shí)時(shí)動(dòng)態(tài)調(diào)整模型策略，持續(xù)完善系統(tǒng)預(yù)警能力。“玄武眼”AI風(fēng)控系統(tǒng)從源頭加強(qiáng)防控，最大限度保障平臺(tái)用戶(hù)安全。

重點(diǎn)強(qiáng)化投訴機(jī)制，第一時(shí)間核實(shí)追蹤處理

除了發(fā)揮自身力量，他趣也極其重視用戶(hù)在肅清網(wǎng)絡(luò)環(huán)境工作中發(fā)揮的主體作用，根據(jù)用戶(hù)的即時(shí)反饋他趣積極調(diào)整平臺(tái)管理舉措，并暢通用戶(hù)舉報(bào)和投訴渠道。在他趣App內(nèi)活動(dòng)頁(yè)面右上方、直播間上方及用戶(hù)聊天窗口等多處顯要位置設(shè)置了“一鍵舉報(bào)”按鈕。平臺(tái)在收到用戶(hù)舉報(bào)后，內(nèi)容風(fēng)控部門(mén)第一時(shí)間安排專(zhuān)職工作人員進(jìn)行核實(shí)，并通過(guò)關(guān)聯(lián)特征分析排查關(guān)聯(lián)主體，集中處理。情節(jié)嚴(yán)重的，報(bào)送網(wǎng)信等管理部門(mén)。

創(chuàng)新反詐教育方式，著力提高用戶(hù)防范意識(shí)

不僅強(qiáng)化用戶(hù)舉報(bào)機(jī)制，他趣也重視對(duì)用戶(hù)的教育和引導(dǎo)，不斷創(chuàng)新反詐教育方式。在平臺(tái)多個(gè)場(chǎng)景中，他趣向用戶(hù)展示和普及反詐騙知識(shí)，提高用戶(hù)反詐騙意識(shí)。同時(shí)，他趣匯總社交平臺(tái)網(wǎng)絡(luò)十大詐騙形式以及應(yīng)對(duì)技巧，為用戶(hù)制作《他趣防詐騙指南》，通過(guò)圖片、文字結(jié)合的形式對(duì)平臺(tái)用戶(hù)進(jìn)行反詐教育；還制作一系列趣味海報(bào)，提醒用戶(hù)要提高反詐意識(shí)。除了線(xiàn)上反詐教育，他趣也深入線(xiàn)下，聯(lián)合反詐聯(lián)盟組織，通過(guò)粘貼宣傳標(biāo)語(yǔ)、擺放宣傳展板、拍攝反詐短視頻等方式，提醒群眾增強(qiáng)自身安全意識(shí)。不僅如此他趣也會(huì)通過(guò)被詐騙受害者的側(cè)畫(huà)像找出相應(yīng)圈層的易感人群，深入分析了解用戶(hù)心理，不斷創(chuàng)新反詐教育方式以及更新反詐機(jī)制，將用戶(hù)安全擺在首位，進(jìn)一步為用戶(hù)的網(wǎng)絡(luò)安全保駕護(hù)航。

“建久安之勢(shì)、成長(zhǎng)治之業(yè)”，他趣自成立以來(lái)一直高度重視并切實(shí)履行平臺(tái)的社會(huì)責(zé)任，竭力營(yíng)造綠色安全的社交環(huán)境，用心守護(hù)用戶(hù)社交安全。他趣將不斷努力，做好用戶(hù)“數(shù)字衛(wèi)士”的職責(zé)，構(gòu)筑安全屏障，為做強(qiáng)數(shù)字經(jīng)濟(jì)持續(xù)發(fā)揮自身價(jià)值。