1月13日，抖音釋出「2024網絡黑產治理盤點」，過去一年平台持續打擊網絡黑色產業鏈，透過升級AI大模型技術、叠代風控策略、最佳化舉報機制等系列舉措，加強對網絡黑產的辨識和治理能力，並向相關部門提供涉嫌違法犯罪的線索，全力守護使用者的用網安全。
前置攔截欺詐資訊 多渠道提醒使用者謹防被騙
2024年，仿冒領導、親友和官方客服是最受關註的欺詐類別，尤其是仿冒抖音客服的黑產，用廣撒網方式撥打電話、發送短訊、即時通訊軟件撥號等方法，與受害人直接聯系，一步步引導對方共享螢幕或者下載第三方app，從中獲取使用者銀行卡賬戶資訊、誘導使用者不斷轉賬等。
刷單詐騙、購物詐騙也是2024年平台重點打擊的欺詐類別。刷單詐騙黑產以招工、兼職、致富為由，或偽裝成單身交友人設，誘導使用者下載第三方軟件進行欺詐；另一類黑產鏈路則以售賣演唱會內部門票、贈送小馬寶莉卡、低價轉遊戲皮膚等噱頭，釘選目標使用者去第三方平台進行交易欺詐。
平台根據黑產作弊鏈路，在評論、建群、拉人等多個場景阻斷黑產觸達受害者，上線反詐客服「驗證助手」，並根據黑產的特征每月叠代反詐策略200個以上，在站內外多個渠道發送反詐提醒，日均保護潛在受害人200萬次。2024年，警方根據抖音提供的線索，打擊詐騙團伙69個，抓獲犯罪嫌疑人451名。
精準辨識網絡水軍 重點打擊四大類
售賣水軍服務、惡意控評、流量造假、惡意舉報，是過去一年抖音重點打擊的四類水軍行為。黑產在站內售賣刷粉刷贊、招募水軍等違規服務，或有組織、有目的地批次釋出評論錯誤引導使用者認知，利用作弊手段偽造虛假流量、炒作熱度，甚至利用平台舉報規則牟利，惡意舉報導致他人賬號受影響。
2024年抖音搭建刷手、買手使用者模型，精準辨識風險賬號，並實施攔截異常操作，阻斷水軍造假途徑；透過大模型技術提升辨識能力，對機器賬號和受騙使用者差異化處置。一年來抖音日均攔截違規資訊6200萬次，共封禁賬號110萬個，並將涉嫌違法行為的線索上報相關部門。過去一年根據抖音提供的線索，警方抓獲水軍黑產犯罪嫌疑人90名。
升級影片關鍵幀辨識能力 阻斷違規外鏈導流風險
除了欺詐和水軍，黑產集中的另一方向是違規外鏈。黑產組織透過作弊手段繞過平台風控策略，在多種渠道插入二維碼、聯系方式、圖片、網址等，引導使用者點選跳轉至第三方違規、違法網站，這些第三方網站則大多以提供色情、賭博等違法服務為主。
為應對黑產新手法，抖音風控團隊在前置辨識的基礎上，新增了自動黑樣本庫，透過AI技術可自動辨識、歸類違規行為並進行處置；結合黑產行為模式，升級影片截取關鍵幀模型能力，可第一時間定位黑產在影片中植入的違規頁面；新增彈幕場景模型，有效執行該場景的違規攔截策略。2024年，抖音封禁相關違規賬號超120萬個，同時警方根據抖音提供的線索，打擊違規導流團伙8個，抓獲嫌疑人40名。
封面新聞記者 郭聞涓
