最近、ヒューマン・ライツ・ウォッチ (HRW) は、人気のある AI 画像生成トレーニング データセットにブラジルの子供たちの無許可の個人写真が大量に存在することを明らかにする報告書を発表しました。これらの写真は個人のブログやビデオからのもので、子どもの名前や位置情報が含まれているため、簡単に追跡され悪用される可能性があり、子どものプライバシーと安全に対する深刻な懸念が生じています。報告書は、AIの顔を変える技術の発展により、児童の肖像画がポルノコンテンツの生成に使用されるリスクが高まり、児童にいじめや釣りなどのリスクをもたらし、さらには永続的な精神的外傷を引き起こす可能性さえあると指摘した。 HRWは政府やテクノロジー企業に対し、責任を持って保護措置を講じるよう求め、法的レベルで児童のデータ保護を強化するよう勧告している。
報告書は、LAION-5B データセットにはブラジルの 10 州の子供たちの少なくとも 170 枚の写真が含まれており、乳児期から青年期までの子供たちのさまざまな段階をカバーしていると指摘しました。 LAION 組織は関連リンクを削除する措置を講じましたが、報告書はこれが実際の状況を過小評価している可能性があると考えています。 HRWは、子どものプライバシー保護の責任を親に転嫁するのは不公平であると強調し、政府とテクノロジー企業は積極的に責任を負い、関連法規を策定し、許可なく子どもの個人データをAIシステムの訓練に使用することを明確に禁止し、提供する必要があると強調した。子どもの被害者に対する責任。 AIの悪用や不適切なコンテンツの生成を防ぐために、世界中の国も子どものデータ保護を強化する必要がある。 この事件は、人工知能技術の開発に存在する倫理的課題とデータセキュリティの問題を改めて浮き彫りにしており、それらを効果的に解決するには、すべての関係者による共同の努力が必要です。