抖音借 AI 打擊黑產(chǎn)：首季封禁 260 萬賬號(hào)，治理效率顯著提升

近日，抖音集團(tuán)副總裁李亮發(fā)文指出，打擊黑產(chǎn)是平臺(tái)治理的關(guān)鍵部分，AI 技術(shù)在提升抖音打擊黑產(chǎn)的效率和準(zhǔn)確率方面發(fā)揮了重要作用。2025 年第一季度，抖音封禁了 260 萬個(gè)與水軍、欺詐和違規(guī)導(dǎo)流相關(guān)的黑產(chǎn)賬號(hào)。

李亮分享的抖音 2025 年第一季度黑產(chǎn)治理數(shù)據(jù)報(bào)告顯示，在風(fēng)險(xiǎn)發(fā)現(xiàn)、風(fēng)險(xiǎn)預(yù)警、線上巡檢風(fēng)險(xiǎn)研判、風(fēng)險(xiǎn)回掃等多個(gè)環(huán)節(jié)，平臺(tái)實(shí)現(xiàn)了線上自動(dòng)運(yùn)營。其中，網(wǎng)絡(luò)水軍服務(wù)違規(guī)的巡檢效率提升了 10.25 倍。

面對黑產(chǎn)的不斷演變，違規(guī)導(dǎo)流呈現(xiàn)出新特點(diǎn)。黑產(chǎn)團(tuán)伙會(huì)在投稿、評論、用戶資料、彈幕等場景，利用多個(gè)賬號(hào)配合操作。

為有效應(yīng)對這些新情況，抖音構(gòu)建了長鏈路風(fēng)險(xiǎn)識(shí)別體系，從事前、事中、事后等多個(gè)環(huán)節(jié)入手，切斷黑產(chǎn)賬號(hào)之間的聯(lián)系，并對違規(guī)賬號(hào)進(jìn)行統(tǒng)一處置。

此外，抖音還借助大模型輔助治理。大模型在內(nèi)容理解方面具有優(yōu)勢，能夠自動(dòng)梳理黑產(chǎn)鏈路的每個(gè)環(huán)節(jié)，識(shí)別出關(guān)鍵證據(jù)并進(jìn)行保存，進(jìn)一步提升了打擊黑產(chǎn)的精準(zhǔn)度。（Suky）

生成海報(bào)