في الآونة الأخيرة، أصدرت منظمة هيومن رايتس ووتش (HRW) تقريرًا يكشف عن وجود عدد كبير من الصور الشخصية غير المصرح بها لأطفال برازيليين في مجموعة بيانات التدريب الشهيرة على إنشاء صور الذكاء الاصطناعي. تأتي هذه الصور من مدونات ومقاطع فيديو شخصية وتحتوي على أسماء الأطفال ومعلومات عن مواقعهم، والتي يمكن تتبعها وإساءة استخدامها بسهولة، مما يثير مخاوف خطيرة بشأن خصوصية الأطفال وسلامتهم. وأشار التقرير إلى أن تطوير تكنولوجيا الذكاء الاصطناعي لتغيير الوجه قد زاد من خطر استخدام صور الأطفال لإنتاج محتوى إباحي، مما يعرض الأطفال لمخاطر مثل التنمر وصيد الأسماك، وحتى التسبب في صدمة عقلية دائمة. وتدعو هيومن رايتس ووتش الحكومات وشركات التكنولوجيا إلى تحمل المسؤولية وتطوير إجراءات الحماية، وتوصي بتعزيز حماية بيانات الأطفال على المستوى القانوني.
وأشار التقرير إلى أن مجموعة بيانات LAION-5B تحتوي على ما لا يقل عن 170 صورة لأطفال من 10 ولايات في البرازيل، تغطي مراحل مختلفة من الأطفال من الطفولة إلى المراهقة. على الرغم من أن منظمة LAION قد اتخذت خطوات لإزالة الروابط ذات الصلة، إلا أن التقرير يعتقد أن هذا قد يقلل من الوضع الفعلي. وشددت هيومن رايتس ووتش على أنه من غير العادل تحويل مسؤولية حماية خصوصية الأطفال إلى الآباء، ويجب على الحكومة وشركات التكنولوجيا تحمل المسؤولية بشكل فعال، وصياغة القوانين واللوائح ذات الصلة، وحظر استخدام البيانات الشخصية للأطفال بشكل واضح لتدريب أنظمة الذكاء الاصطناعي دون إذن، وتوفيرها. طريقة المساءلة للأطفال الضحايا. ويجب على البلدان في جميع أنحاء العالم أيضًا تعزيز حماية بيانات الأطفال لمنع إساءة استخدام الذكاء الاصطناعي وتوليد المحتوى غير المناسب. وتسلط هذه الحادثة الضوء مرة أخرى على التحديات الأخلاقية وقضايا أمن البيانات الموجودة في تطوير تكنولوجيا الذكاء الاصطناعي، والتي تتطلب جهودًا مشتركة من جميع الأطراف لحلها بشكل فعال.