Récemment, la Federal Trade Commission (FTC) des États-Unis a intenté une action en justice contre cinq sociétés d'intelligence artificielle, les accusant de publicité mensongère et de fraude, ce qui a attiré l'attention d'une large part de l'industrie sur la supervision de la technologie de l'intelligence artificielle. L’éditeur de Downcodes interprétera les détails de « l’action de conformité IA » de la FTC et analysera son impact possible.
Récemment, la Federal Trade Commission (FTC) des États-Unis a lancé une mesure coercitive appelée « AI Compliance Action » et a intenté une action en justice contre cinq sociétés d'intelligence artificielle soupçonnées de publicité mensongère et de pratiques frauduleuses. Les entreprises ont été accusées d'avoir menti sur les capacités de leurs logiciels ou d'avoir utilisé la technologie de l'IA pour commettre des actes illégaux, a indiqué la FTC.
Remarque sur la source de l'image : l'image est générée par l'IA et le fournisseur de services d'autorisation d'image Midjourney
Sur les cinq sociétés poursuivies, deux ont conclu un accord avec la FTC, tandis que les trois autres ont choisi de combattre les accusations portées par la FTC devant les tribunaux. Les trois sociétés sont Ascend Ecom, Ecommerce Empire Builders et FBA Machine.
La FTC a souligné que ces sociétés prétendaient aider leurs clients à créer et à gérer des boutiques en ligne grâce à leur technologie d’IA et promettaient des bénéfices élevés. Cependant, en réalité, de nombreux clients n’ont obtenu aucun retour escompté après avoir payé les stocks et la formation, ce qui a entraîné des pertes de plusieurs millions de dollars.
La présidente de la FTC, Lena Khan, a déclaré qu'il était illégal d'utiliser des outils d'IA pour tromper, induire en erreur ou frauder les consommateurs, soulignant qu'« il n'y a aucune immunité pour l'IA ». Elle a souligné que ces mesures coercitives visent à protéger les consommateurs et les entreprises honnêtes et à maintenir un marché équitable.
Parmi les deux sociétés impliquées dans le règlement, DoNotPay est peut-être le nom le plus familier. L’année dernière, l’entreprise a reçu des menaces après avoir tenté d’utiliser l’IA pour défendre un homme, annulant finalement ses plans. La FTC a accusé DoNotPay de ne pas avoir tenu sa promesse et prouvé que son chatbot IA pouvait rivaliser avec les avocats humains. La société a donc accepté 193 000 $ et a promis de cesser de faire de fausses déclarations.
L'action de la FTC impliquait également un outil d'écriture d'IA appelé Rytr. Bien que la décision de la FTC ait déclenché une division 3-2 en interne, Rytr a été accusé de fournir des fonctionnalités générant des avis de consommateurs faux et trompeurs. La FTC estime que les utilisateurs de Rytr peuvent générer des avis détaillés sans rapport avec leurs commentaires et qui sont presque certainement faux. Même si Rytr n'a pas été condamné à une amende ni reconnu d'actes répréhensibles, l'entreprise a accepté de cesser de fournir des services similaires.
L'action de la FTC a suscité une large attention, notamment en ce qui concerne la supervision de la technologie de l'IA. De nombreux experts ont exprimé leurs inquiétudes quant à l'approche de la FTC, estimant qu'elle pourrait entraver l'innovation.
Souligner:
La FTC a intenté une action en justice contre cinq sociétés d'IA, les accusant de publicité mensongère et de fraude.
? DoNotPay a conclu un accord avec la FTC, payant 193 000 $ et promettant de mettre fin à la fausse propagande.
✍️ Rytr a été accusé d'avoir fourni une fonctionnalité qui générait de faux avis de consommateurs et a accepté d'arrêter le service bien qu'il n'ait pas été condamné à une amende.
Cette action de la FTC montre que le développement de l'industrie de l'IA doit prêter attention à la conformité et éviter la fausse propagande et la fraude. La surveillance de la technologie de l'intelligence artificielle continuera d'être renforcée et les entreprises doivent s'adapter activement pour assurer le développement sain du secteur. À l’avenir, la conformité dans le domaine de l’IA deviendra une considération importante pour le développement des entreprises.