최근 휴먼라이츠워치(HRW)는 인기 있는 AI 이미지 생성기 훈련 데이터 세트에 브라질 어린이들의 승인되지 않은 개인 사진이 다수 존재한다는 보고서를 발표했습니다. 이러한 사진은 개인 블로그와 동영상에서 가져온 것이며 어린이의 이름과 위치 정보가 포함되어 있어 쉽게 추적하고 남용할 수 있어 어린이의 개인 정보 보호 및 안전에 대한 심각한 우려를 불러일으킵니다. 보고서는 AI의 얼굴 변화 기술의 발달로 어린이의 초상화가 음란물 제작에 활용될 위험이 높아져 어린이들에게 따돌림, 낚시 등의 위험을 안겨주고, 심지어 지속적인 정신적 트라우마를 야기할 위험도 커졌다고 지적했다. HRW는 정부와 기술 기업에 책임을 지고 보호 조치를 개발할 것을 촉구하며 법적 차원에서 아동 데이터 보호를 강화할 것을 권고했습니다.
보고서는 LAION-5B 데이터 세트에는 유아기부터 청소년기까지 다양한 단계의 어린이를 다루는 브라질 10개 주 어린이의 사진 170장 이상이 포함되어 있다고 지적했습니다. LAION 조직은 관련 링크를 삭제하는 조치를 취했지만, 보고서는 이것이 실제 상황을 과소평가할 수 있다고 믿습니다. HRW는 어린이의 개인 정보 보호 책임을 부모에게 전가하는 것은 불공평하다고 강조했습니다. 정부와 기술 기업은 적극적으로 책임을 져야 하며 관련 법률과 규정을 제정하고 허가 없이 AI 시스템을 교육하기 위해 어린이의 개인 데이터를 사용하는 것을 명확하게 금지하고 제공해야 합니다. 피해자 아동에 대한 책임. 전 세계 국가들도 AI 남용과 부적절한 콘텐츠 생성을 방지하기 위해 아동 데이터 보호를 강화해야 합니다. 이번 사건은 인공지능 기술 개발에 존재하는 윤리적 과제와 데이터 보안 문제를 다시 한번 강조하며, 이를 효과적으로 해결하려면 모든 당사자의 공동 노력이 필요합니다.