近日，人權觀察組織（HRW）發布報告，揭露了流行的AI影像產生器訓練資料集中存在大量未經授權的巴西兒童個人照片。這些照片來自個人部落格和視頻，包含兒童姓名和位置訊息，極易被追蹤和濫用，引發了嚴重的兒童隱私和安全問題。報告指出，AI換臉技術的發展更增加了兒童肖像被用來產生色情內容的風險，給兒童帶來了被霸凌、釣魚等風險，甚至造成持久的精神創傷。 HRW呼籲政府和科技公司承擔責任，制定保護措施，並建議在法律層面加強兒童資料保護。
報告指出，LAION-5B資料集至少包含170張來自巴西10個州的兒童照片，涵蓋兒童從嬰兒到青春期的各個階段。雖然LAION組織已採取措施刪除相關鏈接，但報告認為這可能低估了實際情況。 HRW強調將保護兒童隱私的責任轉嫁給家長是不公平的，政府和科技公司應積極承擔責任，制定相關法律法規，明確禁止未經允許使用兒童個人資料訓練AI系統，並為受害兒童提供追責途徑。全球各國也應加強兒童資料保護，防止AI濫用及不當內容生成。 這起事件再次凸顯了人工智慧技術發展中存在的倫理挑戰和資料安全問題，需要各方共同努力才能有效解決。