近日，人权观察组织（HRW）发布报告，揭露了流行的AI图像生成器训练数据集中存在大量未经授权的巴西儿童个人照片。这些照片来自个人博客和视频，包含儿童姓名和位置信息，极易被追踪和滥用，引发了严重的儿童隐私和安全问题。报告指出，AI换脸技术的发展更增加了儿童肖像被用于生成色情内容的风险，给儿童带来了被欺凌、钓鱼等风险，甚至造成持久的精神创伤。 HRW呼吁政府和科技公司承担责任，制定保护措施，并建议在法律层面加强儿童数据保护。
报告指出，LAION-5B数据集至少包含170张来自巴西10个州的儿童照片，涵盖儿童从婴儿到青春期的各个阶段。虽然LAION组织已采取措施删除相关链接，但报告认为这可能低估了实际情况。HRW强调将保护儿童隐私的责任转嫁给家长是不公平的，政府和科技公司应积极承担责任，制定相关法律法规，明确禁止未经允许使用儿童个人数据训练AI系统，并为受害儿童提供追责途径。全球各国也应加强儿童数据保护，防止AI滥用及不当内容生成。 这起事件再次凸显了人工智能技术发展中存在的伦理挑战和数据安全问题，需要各方共同努力才能有效解决。