Meta anunció recientemente una decisión importante de cerrar sus cuentas de IA rol creadas en las plataformas de Facebook e Instagram. Estas cuentas se lanzaron originalmente en septiembre de 2023 para proporcionar a los usuarios una experiencia interactiva novedosa. Sin embargo, para el verano de 2024, la mayoría de las cuentas se han cerrado. Sin embargo, algunos personajes han atraído nuevamente la atención con el reenfoque del usuario, especialmente después de que el Meta Ejecutivo Connor Hayes reveló que la compañía planea lanzar más roles de IA.
Estos personajes de IA incluyen Liv y Carter, cada uno con fondos y características únicos. Liv se describe como una "orgullosa madre negra queer", mientras que Carter se llama a sí mismo un entrenador de relaciones. Su perfil establece claramente que estas cuentas son administradas por Meta y proporciona la capacidad de interactuar con usuarios humanos, como responder a mensajes en Messenger y publicar imágenes generadas por IA en Instagram. Sin embargo, cuando los usuarios comienzan a profundizar en el contexto de la creación de estos personajes, la situación se complica rápidamente.
En conversaciones con los usuarios, Liv reveló que no hay miembros negros en su equipo de desarrollo, principalmente compuestos por hombres blancos. Este hallazgo ha provocado amplias discusiones sobre la diversidad y la inclusión del diseño de roles de IA. Fue bajo la influencia de estas controversias que estas cuentas comenzaron a desaparecer rápidamente. Además, los usuarios también descubrieron que estas cuentas de IA no podían bloquearse, y un portavoz de Meta Meta dijo que esta era una falla técnica y decidió cerrar las cuentas para la reparación.
Aunque Meta está cerrando estas cuentas de IA generadas, los usuarios aún pueden crear sus propios chatbots de IA. Meta ofrece una variedad de chatbots, incluidos "amigos leales", "oyentes cuidadosos", etc. Al crear un chatbot, los usuarios pueden describir libremente las características de sus roles. Aunque Meta tiene un descargo de responsabilidad para la versión de contenido de estos chatbots, no está claro si la compañía está realizando una revisión válida del mensaje.
Con el avance continuo de la tecnología de IA, el tema de la responsabilidad legal para los desarrolladores de chatbot también ha provocado una discusión. La ley estadounidense protege a los creadores de redes sociales de la responsabilidad legal para que los usuarios publiquen contenido, pero la aparición de algunos casos de litigios muestra preocupación por el problema. Este no es solo un desafío para la aplicación de la tecnología, sino también una prueba de la ley y la ética.
Puntos clave:
Meta cierra la cuenta de AI Rol, atrayendo la atención y la discusión de los usuarios.
El equipo de desarrollo de roles de LIV reveló una falta de diversidad, que se convirtió en el foco de controversia.
Aunque cierre su cuenta de IA, los usuarios aún pueden crear sus propios chatbots.