近日，小紅書發布了關於黑灰產賬號治理的階段性進展公告，顯示該平台在過去三個月內共處理了超過320萬的違規賬號。這項行動旨在遏制利用AI 生成同質化內容的黑灰產團伙，保護社區生態。小紅書的治理工作從去年11月開始，專注於打擊虛假營銷和黑灰產養號行為。
根據小紅書“薯管家” 的公告，這些黑灰產團伙通常通過批量發布相似的影視內容來迅速積累關注者，然後再通過轉售這些賬號或發布虛假內容來進行盈利。這種現象嚴重擾亂了小紅書的社區環境，使得用戶難以找到真實、有價值的內容。
在這場鬥爭中，治理團隊特別強調了“真人養號” 的隱蔽性。黑灰產團伙利用AIGC（人工智能生成內容）大模型批量生產的內容，採用熱點跟風的方式，創建了大規模的賬號矩陣。尤其是在旅遊、教育等行業，黑灰產賬號頻繁出現，發布低質甚至惡意的營銷內容，誤導消費者。這種行為不僅損害了用戶體驗，也對平台的聲譽造成了影響。
小紅書的治理專項負責人表示，這項打擊行動是該平台歷史上最嚴厲的黑灰產賬號治理行動。他們將繼續加大力度，確保社區的健康發展。通過這樣的措施，小紅書希望能為用戶提供一個真實可信的社交平台，讓用戶能夠享受高質量的內容分享與交流。