Kürzlich veröffentlichte Human Rights Watch (HRW) einen Bericht, der das Vorhandensein einer großen Anzahl nicht autorisierter persönlicher Fotos brasilianischer Kinder im beliebten Trainingsdatensatz des KI-Bildgenerators aufdeckte. Diese Fotos stammen aus persönlichen Blogs und Videos und enthalten Namen und Standortinformationen von Kindern, die leicht verfolgt und missbraucht werden können, was zu ernsthaften Bedenken hinsichtlich der Privatsphäre und Sicherheit von Kindern führt. In dem Bericht wurde darauf hingewiesen, dass die Entwicklung der KI-Technologie zur Gesichtsveränderung das Risiko erhöht hat, dass Kinderporträts zur Generierung pornografischer Inhalte verwendet werden, was für Kinder Risiken wie Mobbing und Angeln mit sich bringt und sogar dauerhafte psychische Traumata verursacht. HRW fordert Regierungen und Technologieunternehmen auf, Verantwortung zu übernehmen und Schutzmaßnahmen zu entwickeln, und empfiehlt, den Datenschutz von Kindern auf gesetzlicher Ebene zu stärken.
In dem Bericht wurde darauf hingewiesen, dass der LAION-5B-Datensatz mindestens 170 Fotos von Kindern aus 10 Bundesstaaten Brasiliens enthält, die verschiedene Stadien von Kindern vom Säuglingsalter bis zum Jugendalter abdecken. Obwohl die LAION-Organisation Schritte unternommen hat, relevante Links zu entfernen, geht der Bericht davon aus, dass dies die tatsächliche Situation möglicherweise unterschätzt. HRW betonte, dass es unfair sei, die Verantwortung für den Schutz der Privatsphäre von Kindern auf die Eltern abzuwälzen. Die Regierung und Technologieunternehmen sollten aktiv Verantwortung übernehmen, entsprechende Gesetze und Vorschriften formulieren und die Verwendung personenbezogener Daten von Kindern zum Trainieren von KI-Systemen ohne Erlaubnis klar verbieten und bereitstellen Verantwortung für kindliche Opfer. Länder auf der ganzen Welt sollten außerdem den Datenschutz von Kindern stärken, um KI-Missbrauch und unangemessene Inhaltserstellung zu verhindern. Dieser Vorfall verdeutlicht einmal mehr die ethischen Herausforderungen und Datensicherheitsprobleme, die bei der Entwicklung der Technologie der künstlichen Intelligenz bestehen und zu deren wirksamer Lösung gemeinsame Anstrengungen aller Parteien erforderlich sind.