近年來，隨著Z世代社交習(xí)慣的線上化遷移，選擇移動(dòng)社交的用戶越來越多，據(jù)艾媒咨詢數(shù)據(jù)顯示，2022年移動(dòng)社交的用戶規(guī)模將會(huì)突破10億，音視頻社交軟件，如陌陌、探探、soul等已經(jīng)成為了年輕人生活中必不可少的部分。

閑暇時(shí)間，打開軟件刷一刷是當(dāng)代年輕人解決情感交流和傾訴需求的一種方式，簡短的對(duì)話和親切的聲音，讓他們將信任交給了手機(jī)背后的那個(gè)人。但是隱藏在手機(jī)背后的除了真實(shí)的用戶，還有伺機(jī)而動(dòng)圖謀不軌的灰色產(chǎn)業(yè)。

據(jù)統(tǒng)計(jì)，全網(wǎng)活躍的音視頻社交類應(yīng)用超2500余款，主流應(yīng)用市場(chǎng)在架超1200余款，而這些應(yīng)用中存在色情推廣、廣告代刷、外部引流和虛假詐騙等違規(guī)行為的比例達(dá)15.7%。

正是因?yàn)橛辛诉@樣的不良動(dòng)機(jī)，才導(dǎo)致音視頻社交類的企業(yè)頻頻背上相關(guān)的負(fù)面新聞。也正是由于對(duì)不良違法內(nèi)容洞察力不足，內(nèi)容治理能力不足，才無法徹底鏟除行業(yè)中的黑灰產(chǎn)內(nèi)容。

而輝禹科技就在不斷助力社交類APP打擊黑灰產(chǎn)業(yè)鏈，從行業(yè)角度來看，合規(guī)是所有深耕音視頻社交的企業(yè)必須踐行的部分，唯有加強(qiáng)自身監(jiān)管，堅(jiān)決打擊不規(guī)范內(nèi)容，才能為用戶提供良性，安全的社交環(huán)境，讓用戶不再避諱使用這些平臺(tái)，真正成為能夠滿足用戶需求的一劑解藥。

智能反黑產(chǎn)模型，人機(jī)雙審質(zhì)檢調(diào)優(yōu)

針對(duì)社交產(chǎn)品的4類黑產(chǎn)類型，輝禹科技通過全棧式的智能內(nèi)容識(shí)別引擎和實(shí)施智能風(fēng)控引擎加上人工復(fù)查相結(jié)合來共同治理平臺(tái)問題。

在我們的技術(shù)下，APP板塊下的內(nèi)容和數(shù)據(jù)將首先通過全棧式智能內(nèi)容識(shí)別引擎和實(shí)時(shí)智能風(fēng)控引擎，篩選出有疑問的內(nèi)容后再通過人工審核，從而提升對(duì)不良內(nèi)容的洞察力。

透過輝禹的自研動(dòng)態(tài)學(xué)習(xí)系統(tǒng)，不斷優(yōu)化機(jī)審模型，可以高效過濾復(fù)雜、變種信息，全面分析文本情感，結(jié)合上下文對(duì)各種內(nèi)容進(jìn)行批量迅速判定，而集成式多媒體處理系統(tǒng)，可以處理多種格式文件。

智能反欺詐系統(tǒng)，精準(zhǔn)打擊“害群之馬”

針對(duì)用戶的行為，例如“經(jīng)常發(fā)布聯(lián)系方式引流至非法平臺(tái)”、“以交換聯(lián)系方式、見面為由，頻繁要求贈(zèng)送禮物”、“以網(wǎng)絡(luò)障礙等環(huán)境因素轉(zhuǎn)移交流環(huán)境，進(jìn)而引導(dǎo)違規(guī)操作”、“虛構(gòu)平臺(tái)規(guī)則文字或平臺(tái)圖片，騙取禮物”、“索要對(duì)方賬號(hào)，用對(duì)方賬號(hào)進(jìn)線違規(guī)操作”….我們建立了一套風(fēng)險(xiǎn)評(píng)分模型，針對(duì)其用戶特征進(jìn)行打分，進(jìn)行精準(zhǔn)識(shí)別。

在提取風(fēng)險(xiǎn)賬號(hào)的行為數(shù)據(jù)后，例如：登陸設(shè)備、賬號(hào)行為、生命周期等構(gòu)建風(fēng)險(xiǎn)關(guān)系網(wǎng)，進(jìn)一步校準(zhǔn)核對(duì)問題，并不斷的反饋調(diào)優(yōu)模型，對(duì)此類用戶進(jìn)行高度關(guān)注，從根源上進(jìn)行前置處理。

該模型日均內(nèi)容及處理可達(dá)10W+，賬號(hào)及處理可達(dá)600+，并針對(duì)不同風(fēng)險(xiǎn)等級(jí)的群體執(zhí)行定制化的內(nèi)容安全分層管控策略。

真人治理團(tuán)隊(duì)，用戶安全的二道防線

人工治理分析團(tuán)隊(duì)，會(huì)對(duì)黑產(chǎn)形式、類型、內(nèi)容進(jìn)行分析，進(jìn)而彌補(bǔ)系統(tǒng)漏洞進(jìn)行相互補(bǔ)位;而質(zhì)檢團(tuán)隊(duì)會(huì)對(duì)黑產(chǎn)內(nèi)容進(jìn)行攔截、前端數(shù)據(jù)進(jìn)行質(zhì)檢巡查，通過質(zhì)檢及巡查結(jié)果，不斷完善系統(tǒng)能力。

針對(duì)反黑產(chǎn)的內(nèi)容審核，不單單是音視頻社交行業(yè)所獨(dú)有的需求，現(xiàn)在越來越多的行業(yè)需要去維護(hù)和處理一些不良內(nèi)容，有效地區(qū)分高風(fēng)險(xiǎn)訪問者并持續(xù)跟蹤各類風(fēng)險(xiǎn)內(nèi)容，更有利于及時(shí)湮滅苗頭，將其扼殺在搖籃中，避免更大的損失。

輝禹科技也在加強(qiáng)自有業(yè)務(wù)團(tuán)隊(duì)技術(shù)及團(tuán)隊(duì)實(shí)力的同時(shí)，積極參與北京網(wǎng)絡(luò)行業(yè)協(xié)會(huì)、上海信息安全行業(yè)協(xié)會(huì)、信息服務(wù)業(yè)行業(yè)協(xié)會(huì)等行業(yè)組織，不斷地拓展行業(yè)合作資源和服務(wù)場(chǎng)景，爭取為反黑灰產(chǎn)貢獻(xiàn)一份微薄的力量。

免責(zé)聲明：市場(chǎng)有風(fēng)險(xiǎn)，選擇需謹(jǐn)慎!此文僅供參考，不作買賣依據(jù)。

關(guān)鍵詞：