เมื่อเร็วๆ นี้ Human Rights Watch (HRW) เผยแพร่รายงานที่เผยให้เห็นภาพถ่ายส่วนตัวของเด็กชาวบราซิลที่ไม่ได้รับอนุญาตจำนวนมากในชุดข้อมูลการฝึกอบรมโปรแกรมสร้างภาพ AI ยอดนิยม รูปภาพเหล่านี้มาจากบล็อกและวิดีโอส่วนตัว และมีชื่อเด็กและข้อมูลสถานที่ ซึ่งสามารถติดตามและนำไปใช้ในทางที่ผิดได้อย่างง่ายดาย ทำให้เกิดความกังวลเรื่องความเป็นส่วนตัวและความปลอดภัยของเด็กอย่างร้ายแรง รายงานชี้ให้เห็นว่าการพัฒนาเทคโนโลยีเปลี่ยนใบหน้าของ AI ได้เพิ่มความเสี่ยงที่ภาพเหมือนของเด็กจะถูกนำไปใช้เพื่อสร้างเนื้อหาลามกอนาจาร ซึ่งนำความเสี่ยงมาสู่เด็ก เช่น การกลั่นแกล้งและการตกปลา และยังก่อให้เกิดความบอบช้ำทางจิตใจในระยะยาวอีกด้วย HRW เรียกร้องให้รัฐบาลและบริษัทเทคโนโลยีรับผิดชอบและพัฒนามาตรการป้องกัน และแนะนำให้เสริมสร้างการคุ้มครองข้อมูลของเด็กในระดับกฎหมาย
รายงานชี้ให้เห็นว่าชุดข้อมูล LAION-5B ประกอบด้วยภาพถ่ายเด็กอย่างน้อย 170 ภาพจาก 10 รัฐในบราซิล ครอบคลุมช่วงต่างๆ ของเด็กตั้งแต่วัยทารกจนถึงวัยรุ่น แม้ว่าองค์กร LAION ได้ดำเนินการตามขั้นตอนเพื่อลบลิงก์ที่เกี่ยวข้อง แต่รายงานเชื่อว่านี่อาจประเมินสถานการณ์จริงต่ำไป HRW ย้ำว่ามันไม่ยุติธรรมที่จะโอนความรับผิดชอบในการปกป้องความเป็นส่วนตัวของเด็กให้กับผู้ปกครอง รัฐบาลและบริษัทเทคโนโลยีควรรับผิดชอบอย่างจริงจัง กำหนดกฎหมายและข้อบังคับที่เกี่ยวข้อง ห้ามมิให้มีการใช้ข้อมูลส่วนบุคคลของเด็กเพื่อฝึกอบรมระบบ AI โดยไม่ได้รับอนุญาตอย่างชัดเจน และจัดให้มี ความรับผิดชอบต่อผู้เสียหายที่เป็นเด็ก ประเทศต่างๆ ทั่วโลกควรเสริมสร้างการคุ้มครองข้อมูลของเด็กเพื่อป้องกันการละเมิด AI และการสร้างเนื้อหาที่ไม่เหมาะสม เหตุการณ์นี้ตอกย้ำอีกครั้งถึงความท้าทายด้านจริยธรรมและปัญหาด้านความปลอดภัยของข้อมูลที่มีอยู่ในการพัฒนาเทคโนโลยีปัญญาประดิษฐ์ ซึ่งต้องใช้ความพยายามร่วมกันจากทุกฝ่ายในการแก้ปัญหาอย่างมีประสิทธิภาพ