スペイン政府は最近、特に正しくマークされていない「深い偽造」コンテンツのために、人工知能（AI）生成されたコンテンツの規制を強化することを目的とした画期的な新しい法案を可決しました。この動きは、虚偽の情報と闘い、国民の利益を保護する上で重要なステップと見なされています。
デジタル変革大臣オスカー・ロペスは、記者会見で法案の背景と目的について詳しく説明しました。彼は、法案の策定は欧州連合の人工知能法を指し、特に高リスクの人工知能システムの厳格な透明性要件を強調していると述べた。ロペスは、人工知能技術は多くの便利さを社会開発にもたらしたが、虐待され、誤った情報を広め、民主主義を攻撃するためのツールになる可能性があると指摘した。
画像ソースノート：画像はAIによって生成され、画像認定サービスプロバイダーMidjourney
Lopezはさらに、「Deep Forgery」テクノロジーは、ビデオ、写真、オーディオを編集または生成することで非常に誤解を招き、実際のコンテンツを偽装していると説明しました。誰でもこの技術の犠牲者になることができるので、政府はこの課題に対処するために強力な措置を講じなければなりません。新しい法案は、AIによって生成されたコンテンツに適切にラベルを付けることができないことは「重大な違法」と見なされ、最大3,500万ユーロ（約3820万米ドル）の罰金、または会社の世界的な年間売上高の7％に基づいて計算された金額に直面する可能性があることを明確に述べています。
さらに、この法案は、潜在的な操作を禁止しています。たとえば、潜在的な技術を使用して脆弱なグループに影響を与えるなどです。ロペスは、ギャンブルの傾向をギャンブルに参加させる一方、一部のおもちゃが子供たちを危険な活動に導くように導く可能性のあるチャットボットの中には、いくつかのチャットボットが誘発する可能性があるという例を示しています。これらの行動は、道徳に違反するだけでなく、社会に広範囲にわたる影響を与える可能性があります。
法案のもう1つの重要な規定は、機関の知能を使用して生体認証データを介して個人を分類または評価することを禁止することです。これは、社会的利益を得るか、犯罪のリスクを評価する可能性に影響します。ただし、国家安全保障の考慮事項に基づいて、公共の場所ではリアルタイムの生体認証監視が依然として許可されています。この規定は、個人のプライバシーを保護することと公共の安全を維持することとのバランスを求めています。
新しい法案の実施は、新しく確立されたAI規制当局のAESIAの対象となりますが、関連する規制当局は、データプライバシー、犯罪、選挙、信用格付け、保険、資本市場を含む特定の状況で管理の責任を負います。法案は、正式に有効になる前に、下院からの承認が必要です。通過すると、スペインはこの一連の規制を実施する最初のEU諸国の1つになります。
全体として、この新しいスペインの法案は、人工知能技術の規範的使用に関する法的枠組みを提供するだけでなく、同様の課題に対応する他の国や地域に重要な参照を提供します。厳格な規制と透明性の要件を通じて、スペイン政府は、潜在的なリスクを効果的に防止し、技術革新を促進しながら国民の利益を保護したいと考えています。