1月13日，抖音發(fā)布“2024網(wǎng)絡(luò)黑產(chǎn)治理盤點”，過去一年平臺持續(xù)打擊網(wǎng)絡(luò)黑色產(chǎn)業(yè)鏈，通過升級AI大模型技術(shù)、迭代風控策略、優(yōu)化舉報機制等系列舉措，加強對網(wǎng)絡(luò)黑產(chǎn)的識別和治理能力，封禁欺詐、水軍和違規(guī)導流相關(guān)黑產(chǎn)賬號超600萬個，并向相關(guān)部門提供涉嫌違法犯罪的線索，全力守護用戶的用網(wǎng)安全。

前置攔截欺詐信息 多渠道提醒用戶謹防被騙

2024年，仿冒領(lǐng)導、親友和官方客服是最受關(guān)注的欺詐類型，尤其是仿冒抖音客服的黑產(chǎn)，用廣撒網(wǎng)方式撥打電話、發(fā)送短信、即時通訊軟件撥號等方法，與受害人直接聯(lián)系，一步步引導對方共享屏幕或者下載第三方app，從中獲取用戶銀行卡賬戶信息、誘導用戶不斷轉(zhuǎn)賬等。

刷單詐騙、購物詐騙也是2024年平臺重點打擊的欺詐類型。刷單詐騙黑產(chǎn)以招工、兼職、致富為由，或偽裝成單身交友人設(shè)，誘導用戶下載第三方軟件進行欺詐；另一類黑產(chǎn)鏈路則以售賣演唱會內(nèi)部門票、贈送小馬寶莉卡、低價轉(zhuǎn)游戲皮膚等噱頭，鎖定目標用戶去第三方平臺進行交易欺詐。

平臺根據(jù)黑產(chǎn)作弊鏈路，在評論、建群、拉人等多個場景阻斷黑產(chǎn)觸達受害者，上線反詐客服“驗證助手”，并根據(jù)黑產(chǎn)的特征每月迭代反詐策略200個以上，在站內(nèi)外多個渠道發(fā)送反詐提醒，日均保護潛在受害人200萬次。2024年，警方根據(jù)抖音提供的線索，打擊詐騙團伙69個，抓獲犯罪嫌疑人451名。

精準識別網(wǎng)絡(luò)水軍 重點打擊四大類

售賣水軍服務(wù)、惡意控評、流量造假、惡意舉報，是過去一年抖音重點打擊的四類水軍行為。黑產(chǎn)在站內(nèi)售賣刷粉刷贊、招募水軍等違規(guī)服務(wù)，或有組織、有目的地批量發(fā)布評論錯誤引導用戶認知，利用作弊手段偽造虛假流量、炒作熱度，甚至利用平臺舉報規(guī)則牟利，惡意舉報導致他人賬號受影響。

2024年抖音搭建刷手、買手用戶模型，精準識別風險賬號，并實施攔截異常操作，阻斷水軍造假途徑；通過大模型技術(shù)提升識別能力，對機器賬號和受騙用戶差異化處置。一年來抖音日均攔截違規(guī)信息6200萬次，共封禁賬號110萬個，并將涉嫌違法行為的線索上報相關(guān)部門。過去一年根據(jù)抖音提供的線索，警方抓獲水軍黑產(chǎn)犯罪嫌疑人90名。

升級視頻關(guān)鍵幀識別能力 阻斷違規(guī)外鏈導流風險

除了欺詐和水軍，黑產(chǎn)集中的另一方向是違規(guī)外鏈。黑產(chǎn)組織通過作弊手段繞過平臺風控策略，在多種渠道插入二維碼、聯(lián)系方式、圖片、網(wǎng)址等，引導用戶點擊跳轉(zhuǎn)至第三方違規(guī)、違法網(wǎng)站，這些第三方網(wǎng)站則以提供色情、賭博等違法服務(wù)為主。

為應(yīng)對黑產(chǎn)新手法，抖音風控團隊在前置識別的基礎(chǔ)上，新增了自動黑樣本庫，通過AI技術(shù)可自動識別、歸類違規(guī)行為并進行處置；結(jié)合黑產(chǎn)行為模式，升級視頻截取關(guān)鍵幀模型能力，可第一時間定位黑產(chǎn)在視頻中植入的違規(guī)頁面；新增彈幕場景模型，有效運行該場景的違規(guī)攔截策略。2024年，抖音封禁相關(guān)違規(guī)賬號超120萬個，同時警方根據(jù)抖音提供的線索，打擊違規(guī)導流團伙8個，抓獲嫌疑人40名。