Recientemente, Human Rights Watch (HRW) publicó un informe que revela la presencia de una gran cantidad de fotografías personales no autorizadas de niños brasileños en el popular conjunto de datos de entrenamiento del generador de imágenes de IA. Estas fotos provienen de blogs y videos personales y contienen nombres e información de ubicación de niños, que pueden ser rastreados y abusados fácilmente, lo que genera serias preocupaciones sobre la privacidad y la seguridad de los niños. El informe señaló que el desarrollo de la tecnología de cambio de rostros de IA ha aumentado el riesgo de que los retratos de los niños se utilicen para generar contenido pornográfico, lo que conlleva riesgos para los niños como el acoso y la pesca, e incluso provoca un trauma mental duradero. HRW llama a gobiernos y empresas tecnológicas a asumir responsabilidades y desarrollar medidas de protección, y recomienda reforzar la protección de datos de los niños a nivel legal.
El informe señala que el conjunto de datos LAION-5B contiene al menos 170 fotografías de niños de 10 estados de Brasil, que abarcan diversas etapas de la infancia desde la infancia hasta la adolescencia. Aunque la organización LAION ha tomado medidas para eliminar los enlaces relevantes, el informe cree que esto puede subestimar la situación real. HRW enfatizó que es injusto trasladar la responsabilidad de proteger la privacidad de los niños a los padres. El gobierno y las empresas de tecnología deberían asumir activamente la responsabilidad, formular leyes y regulaciones pertinentes, prohibir claramente el uso de datos personales de los niños para entrenar sistemas de inteligencia artificial sin permiso y proporcionarlos. la rendición de cuentas de los niños víctimas. Los países de todo el mundo también deberían fortalecer la protección de los datos de los niños para evitar el abuso de la IA y la generación de contenido inapropiado. Este incidente pone de relieve una vez más los desafíos éticos y los problemas de seguridad de los datos existentes en el desarrollo de la tecnología de inteligencia artificial, que requieren esfuerzos conjuntos de todas las partes para resolverlos de manera efectiva.