최근 Xiaohongshu 플랫폼에는 AI 기반 블로거가 대거 등장해 큰 관심을 받고 있습니다. 이들 블로거들은 매우 유사한 표정과 부드러운 피부 특징으로 인해 AI 정체성을 쉽게 식별할 수 있습니다. 더욱 걱정스러운 것은 이들 AI 블로거들이 주로 건강제품, 스킨케어 제품 분야를 중심으로 광고 사업에 접근하기 시작했다는 점이다. 일부 중·노년층 사용자의 식별 능력이 부족한 점을 감안하면 이러한 현상은 사기로 이어지기 쉬우며 사회적 위험으로 이어질 수 있다. 플랫폼 감독의 지연은 AI로 생성된 블로거 수가 급증하는 것과 뚜렷한 대조를 이루며 기존 규제 메커니즘의 단점을 드러냅니다.
최근 AI가 생성한 것으로 의심되는 샤오홍슈에 비슷한 표정, 지나치게 매끈한 피부를 가진 블로거들이 대거 등장했다. 이들 AI 블로거들은 샤오홍슈에서 건강제품, 스킨케어 제품 등 광고를 받아들이기 시작했다. 도우인 '가짜진동' 얼굴변조 영상 사건과 유사하게 일부 중장년층 이용자들은 진위 여부 파악에 어려움을 겪으며 속일 위험에 처해 있다. AI로 인해 생성된 블로거의 수는 엄청나며, 플랫폼 감독이 따라잡지 못하는 문제가 두드러집니다. Xiaohongshu와 같은 플랫폼이 사전 관리 대책을 마련했지만 실행에 어려움이 있어 감독이 시급합니다.Xiaohongshu 플랫폼 및 기타 관련 플랫폼은 플랫폼의 건전한 발전을 보장하기 위해 AI 생성 콘텐츠에 대한 감독을 강화하고, 검토 메커니즘을 개선하고, 사용자 식별 기능을 개선하고, AI가 생성한 허위 정보를 식별하고 퇴치하는 기술적 수단을 적극적으로 모색해야 합니다. 생태계와 사용자의 권리와 이익을 보호합니다. 이를 위해서는 플랫폼, 규제 기관 및 기술 회사가 협력하여 이 새로운 과제를 효과적으로 해결해야 합니다.