최근 Netizen은 Social Platform X에서 Chatgpt의 최신 버전의 GPT-4O가 장미 이미지를 생성하려고 시도했을 때 "콘텐츠 정책을 준수하지 않기 때문에이 장미의 이미지를 생성 할 수 없다"고 주장했다. 이 예상치 못한 반응은 널리 퍼져 나갔고, 많은 네티즌은 그 이유를 탐구하기 시작 했고이 한계를 우회 할 방법을 찾으려고 노력했습니다.
이 현상을 검증하기 위해 네티즌은 많은 실험을 수행했습니다. 중국어이든 영어에 있든 또는 "장미"를 특별한 기호로 바꾸려고하든 실패로 끝납니다. 노란 장미가 요청 되더라도 GPT-4O는 여전히 거부합니다. 그러나 사용자가 모란과 같은 다른 꽃을 생성하도록 요청하면 GPT-4O는 작업을 쉽게 완성 할 수 있으며, 이는 이미지 생성 기능 자체가 문제가되지 않음을 보여줍니다.
토론이 심화되면서 네티즌은 다양한 추측을했습니다. 어떤 사람들은 "장미"라는 단어가 블랙리스트에 올라서 시스템이 관련 이미지를 생성하지 못하게 할 수 있다고 생각합니다. 어떤 사람들은 chatgpt가 "로즈"를 모호한 힌트로 이해할 수 있다고 추측합니다. 더 흥미로운 점은 일부 사용자는 많은 사용자가 발렌타인 데이에 로즈 이미지를 생성하도록 요청했기 때문에이 키워드를 제한하게 되었기 때문일 수 있다는 것입니다.
추가 테스트에서 Netizens는 "장미"가 복수 형태로 대체되거나 "장미"가 직접 언급되지 않고 대신 특성을 설명하여 이미지 생성을 요청하는 경우 GPT-4O는 작업을 원활하게 완료 할 수 있음을 발견했습니다. 이 발견은 AI 컨텐츠 필터링 메커니즘에 대한 심층적 인 토론을 유발했으며 많은 사람들은 개발자가 딱딱한 콘텐츠 정책을 강화 하여이 이상한 오해 현상으로 이어질 수 있다고 생각합니다.
동시에,이 금기의 chatgpt 단어는 사람들의 협회를 유발했습니다. 이전에 비슷한 상황이 발생했습니다. 사용자가 특정 특정 이름을 요청하면 시스템은 모호하게 응답하여 특정 콘텐츠를 피할 수 있습니다. "장미 생성"은 새로운 금기가되었지만 Gemini 및 Grok과 같은 다른 AI 챗봇은 여전히 장미 이미지를 성공적으로 생성 할 수 있으며, 이는 다른 플랫폼 간의 컨텐츠 제한에 상당한 차이가 있음을 보여줍니다.
이 사건이 발효되면서 사람들은 AI 컨텐츠 검열의 합리성과 투명성에 대해 더 많은 의문을 제기했습니다. 많은 사람들은 미래에 AI가 합리적인 범위 내에서 다양한 사용자의 요구를 더 잘 충족시키면서 불필요한 제한과 오해를 피할 수있을 것으로 기대합니다.