Meta a récemment annoncé une décision majeure de fermer ses comptes de rôle d'IA créés sur les plateformes Facebook et Instagram. Ces comptes ont été initialement lancés en septembre 2023 pour offrir aux utilisateurs une nouvelle expérience interactive. Cependant, à l'été 2024, la plupart des comptes ont été fermés. Néanmoins, certains personnages ont à nouveau attiré l'attention avec le recentrage de l'utilisateur, en particulier après que Meta Executive Connor Hayes a révélé que la société prévoyait de lancer plus de rôles d'IA.
Ces personnages d'IA incluent LIV et Carter, chacun avec des arrière-plans et des fonctionnalités uniques. Liv est décrit comme une «fier maman queer noire» tandis que Carter se qualifie de coach de relation. Leur profil indique clairement que ces comptes sont gérés par Meta et offre la possibilité d'interagir avec les utilisateurs humains, tels que la réponse aux messages sur Messenger et la publication d'images générées par AI sur Instagram. Cependant, lorsque les utilisateurs commencent à approfondir le contexte de la création de ces personnages, la situation se complique rapidement.
Dans les conversations avec les utilisateurs, LIV a révélé qu'il n'y avait pas de membres noirs dans son équipe de développement, principalement composé d'hommes blancs. Cette constatation a déclenché de nombreuses discussions sur la diversité et l'inclusion de la conception des rôles d'IA. C'est sous l'influence de ces controverses que ces comptes ont commencé à disparaître rapidement. En outre, les utilisateurs ont également constaté que ces comptes d'IA ne pouvaient pas être bloqués, et un porte-parole de Meta a déclaré qu'il s'agissait d'un échec technique et a décidé de fermer les comptes de réparation.
Bien que Meta ferme ces comptes d'IA générés, les utilisateurs peuvent toujours créer leurs propres chatbots AI. Meta propose une variété de chatbots, y compris des "amis fidèles", des "auditeurs prudents", etc. Lors de la création d'un chatbot, les utilisateurs peuvent décrire librement les caractéristiques de leurs rôles. Bien que Meta ait une clause de non-responsabilité pour la version de contenu de ces chatbots, il n'est pas clair si l'entreprise procède à un examen valide du message.
Avec l'avancement continu de la technologie de l'IA, la question de la responsabilité juridique pour les développeurs de chatbot a également déclenché une discussion. La loi américaine protège les créateurs de réseaux sociaux contre la responsabilité juridique pour les utilisateurs de publier du contenu, mais l'émergence de certains cas de litige montre la question de la question. Ce n'est pas seulement un défi à l'application de la technologie, mais aussi un test au droit et à l'éthique.
Points clés:
Meta ferme le compte de rôle de l'IA, attirant l'attention et la discussion des utilisateurs.
L'équipe de développement des rôles du LIV a révélé un manque de diversité, qui est devenu l'objet de controverse.
Même si vous fermez votre compte d'IA, les utilisateurs peuvent toujours créer leurs propres chatbots.