Le gouvernement espagnol a récemment adopté un nouveau projet de loi historique visant à renforcer le contenu généré par la réglementation de l'intelligence artificielle (IA), en particulier pour le contenu de "falsification profonde" qui n'est pas correctement marqué. Cette décision est considérée comme une étape importante pour lutter contre les fausses informations et protéger les intérêts du public.
Le ministre de la Transformation numérique, Oscar Lopez, a élaboré sur le contexte et le but du projet de loi lors d'une conférence de presse. Il a déclaré que la formulation du projet de loi se réfère à la loi sur l'intelligence artificielle de l'Union européenne et met particulièrement l'accent sur les exigences de transparence strictes pour les systèmes d'intelligence artificielle à haut risque. Lopez a souligné que bien que la technologie de l'intelligence artificielle ait apporté de nombreuses commodités au développement social, elle peut également être abusée et devenir un outil pour répandre la désinformation et l'attaque de la démocratie.
Remarques de la source d'image: L'image est générée par l'IA, et le fournisseur de services autorisé l'image MidJourney
Lopez a en outre expliqué que la technologie "Fool Forgery" est extrêmement trompeuse en modifiant ou en générant des vidéos, des photos et des audio, se déguisant en contenu réel. Tout le monde peut être victime de cette technologie, le gouvernement doit donc prendre des mesures solides pour relever ce défi. Le nouveau projet de loi stipule clairement que le fait de ne pas étiqueter correctement le contenu généré par l'IA sera considéré comme "sérieusement illégal" et pourrait encourir des amendes pouvant aller jusqu'à 35 millions d'euros (environ 38,2 millions de dollars américains) ou le montant calculé sur la base de 7% du chiffre d'affaires annuel mondial de la société.
De plus, le projet de loi interdit également la manipulation potentielle, comme l'utilisation de la technologie subconsciente pour affecter les groupes vulnérables. Lopez donne un exemple que certains chatbots peuvent induire des tendances au jeu à participer au jeu, tandis que certains jouets peuvent guider les enfants à s'engager dans des activités dangereuses. Ces comportements violent non seulement la moralité, mais peuvent également avoir des impacts de grande envergure sur la société.
Une autre disposition importante du projet de loi est d'interdire aux institutions d'utiliser l'intelligence artificielle pour classer ou évaluer les individus à travers des données biométriques, ce qui affectera leur probabilité d'obtenir des avantages sociaux ou d'évaluer le risque de criminalité. Cependant, sur la base des considérations de sécurité nationale, la surveillance biométrique en temps réel est toujours autorisée dans les lieux publics. Cette disposition vise un équilibre entre la protection de la vie privée et le maintien de la sécurité publique.
La mise en œuvre du nouveau projet de loi sera soumise au régulateur de l'IA nouvellement établi AESIA, mais les régulateurs concernés seront responsables de la direction dans des situations spécifiques impliquant la confidentialité des données, la criminalité, les élections, les notations de crédit, l'assurance et les marchés des capitaux. Le projet de loi a toujours besoin de l'approbation de la Chambre des communes avant de pouvoir officiellement prendre effet. Une fois adopté, l'Espagne deviendra l'un des premiers pays de l'UE à mettre en œuvre cette série de réglementations.
Dans l'ensemble, ce nouveau projet de loi espagnol fournit non seulement un cadre juridique pour l'utilisation normative de la technologie de l'intelligence artificielle, mais fournit également une référence importante à d'autres pays et régions pour répondre à des défis similaires. Grâce à des exigences strictes réglementaires et de transparence, le gouvernement espagnol espère empêcher efficacement ses risques potentiels et protéger les intérêts du public tout en favorisant l'innovation technologique.