Baru-baru ini, Human Rights Watch (HRW) merilis laporan yang mengungkapkan adanya sejumlah besar foto pribadi anak-anak Brasil yang tidak sah dalam kumpulan data pelatihan pembuat gambar AI yang populer. Foto-foto ini berasal dari blog dan video pribadi dan berisi nama anak-anak dan informasi lokasi, yang dapat dengan mudah dilacak dan disalahgunakan, sehingga meningkatkan masalah privasi dan keamanan anak-anak yang serius. Laporan tersebut menunjukkan bahwa perkembangan teknologi pengubah wajah AI telah meningkatkan risiko penggunaan potret anak-anak untuk menghasilkan konten pornografi, membawa risiko pada anak-anak seperti penindasan dan penangkapan ikan, dan bahkan menyebabkan trauma mental yang berkepanjangan. HRW menyerukan kepada pemerintah dan perusahaan teknologi untuk mengambil tanggung jawab dan mengembangkan langkah-langkah perlindungan, dan merekomendasikan penguatan perlindungan data anak-anak di tingkat hukum.
Laporan tersebut menunjukkan bahwa kumpulan data LAION-5B berisi setidaknya 170 foto anak-anak dari 10 negara bagian di Brasil, yang mencakup berbagai tahapan anak-anak mulai dari bayi hingga remaja. Meskipun organisasi LAION telah mengambil langkah-langkah untuk menghapus tautan yang relevan, laporan tersebut yakin bahwa hal ini mungkin meremehkan situasi sebenarnya. HRW menekankan bahwa tidak adil untuk mengalihkan tanggung jawab perlindungan privasi anak kepada orang tua. Pemerintah dan perusahaan teknologi harus secara aktif mengambil tanggung jawab, merumuskan undang-undang dan peraturan yang relevan, dengan jelas melarang penggunaan data pribadi anak-anak untuk melatih sistem AI tanpa izin, dan menyediakan fasilitas. pertanggungjawaban anak korban. Negara-negara di seluruh dunia juga harus memperkuat perlindungan data anak-anak untuk mencegah penyalahgunaan AI dan pembuatan konten yang tidak pantas. Kejadian ini sekali lagi menyoroti tantangan etika dan masalah keamanan data yang ada dalam pengembangan teknologi kecerdasan buatan, yang memerlukan upaya bersama dari semua pihak untuk menyelesaikannya secara efektif.