Meta는 최근 Facebook 및 Instagram 플랫폼에서 생성 된 AI 역할 계정을 폐쇄하기로 한 주요 결정을 발표했습니다. 이 계정은 원래 2023 년 9 월에 시작하여 사용자에게 새로운 대화식 경험을 제공했습니다. 그러나 2024 년 여름에는 대부분의 계정이 마감되었습니다. 그럼에도 불구하고, 일부 캐릭터는 사용자의 리퍼스에 다시 관심을 끌고 있습니다. 특히 메타 경영진 인 코너 헤이스 (Connor Hayes)가 회사가 더 많은 AI 역할을 시작할 계획이라고 밝혔다.
이 AI 캐릭터에는 Liv와 Carter가 포함되며 각각 고유 한 배경과 기능이 있습니다. Liv는 Carter가 자신을 관계 코치라고 부르는“자랑스러운 흑인 퀴어 엄마”로 묘사됩니다. 그들의 프로필은 이러한 계정이 Meta에서 관리하고 메신저의 메시지에 대한 응답 및 Instagram에 AI 생성 이미지를 게시하는 등 인간 사용자와 상호 작용할 수있는 기능을 제공합니다. 그러나 사용자가 이러한 캐릭터를 만드는 맥락에 더 깊이 파고 들기 시작하면 상황이 빠르게 복잡해집니다.
Liv는 사용자와의 대화에서 개발 팀에는 흑인 구성원이 없으며 대부분 백인 남성으로 구성된 것으로 밝혀졌습니다. 이 발견은 AI 역할 설계의 다양성과 포함에 대한 광범위한 토론을 촉발시켰다. 이러한 논쟁의 영향을 받고이 계정이 빨리 사라지기 시작했습니다. 또한 사용자는 이러한 AI 계정을 차단할 수 없다는 것을 발견했으며 Meta 대변인은 이것이 기술적 실패이며 수리 계정을 폐쇄하기로 결정했다고 밝혔다.
Meta가 생성 된 AI 계정을 닫고 있지만 사용자는 여전히 자신의 AI 챗봇을 만들 수 있습니다. Meta는 "충성스러운 친구", "신중한 청취자"등을 포함한 다양한 챗봇을 제공합니다. 챗봇을 만들 때 사용자는 자신의 역할의 특성을 자유롭게 설명 할 수 있습니다. Meta는 이러한 챗봇의 컨텐츠 릴리스에 대한 면책 조항이 있지만 회사가 메시지에 대한 유효한 검토를 수행하는지 여부는 확실하지 않습니다.
AI 기술의 지속적인 발전으로 챗봇 개발자에 대한 법적 책임 문제도 논의를 일으켰습니다. 미국 법률은 소셜 네트워크 제작자가 사용자가 컨텐츠를 게시 할 수있는 법적 책임으로부터 보호하지만 일부 소송 사례의 출현은이 문제에 대한 우려를 보여줍니다. 이것은 기술 적용에 대한 도전 일뿐 만 아니라 법과 윤리에 대한 시험이기도합니다.
핵심 사항 :
Meta는 AI 역할 계정을 폐쇄하여 사용자의 관심과 토론을 유치합니다.
LIV 역할 개발 팀은 다양성의 부족을 밝혀 냈으며, 이는 논란의 초점이되었습니다.
AI 계정을 폐쇄하더라도 사용자는 여전히 자신의 챗봇을 만들 수 있습니다.