最近、ネチズンがソーシャルプラットフォームXで、ChatGptの最新バージョンのGPT-4oがバラのイメージを生成しようとしたとき、彼は直接拒否し、「私たちのコンテンツポリシーに準拠していないため、このバラの画像を生成できない」と主張しました。この予期せぬ反応はすぐに広範囲にわたる注目を集め、多くのネチズンはその背後にある理由を探求し始め、この制限を迂回する方法を見つけようとしました。
この現象を検証するために、ネチズンは多くの実験を実施しました。中国語であろうと英語であろうと、「バラ」を特別なシンボルに置き換えようとするかどうかさえ、失敗に終わります。たとえ黄色のバラが要求されたとしても、GPT-4oはまだ拒否します。ただし、ユーザーが牡丹などの他の花を生成するよう要求すると、GPT-4oはタスクを簡単に完了できます。これは、その画像生成機能自体が問題ではないことを示しています。
議論が深まるにつれて、ネチズンはさまざまな推測をしました。一部の人々は、「バラ」という言葉がブラックリストに登録されている可能性があり、システムが関連する画像の生成に失敗する可能性があると考えています。一部の人々は、ChatGptが「Rose」を不明瞭なヒントとして理解していると推測しており、コンテンツフィルタリングメカニズムをトリガーしています。さらに興味深いのは、一部のユーザーが、バレンタインデー中に多数のユーザーがバラ画像を生成するように要求したためであると冗談を言ったことです。
さらなるテストで、ネチズンは、「バラ」が複数形に置き換えられている場合、または「バラ」が直接言及されていない場合、代わりにその特性を説明することで画像の生成を要求する場合、GPT-4Oはタスクをスムーズに完了できることを発見しました。この発見は、AIコンテンツフィルタリングメカニズムの詳細な議論を引き起こし、多くの人々は、開発者がハードコード化されたコンテンツポリシーである可能性があると考えており、この一見奇妙な誤判断現象につながります。
同時に、このTaboo of ChatGptの言葉も人々の協会を引き起こしました。同様の状況が以前に発生したことがあります。ユーザーが特定の特定の名前を要求すると、システムも漠然と応答し、特定のコンテンツの回避を示します。 「ローズの生成」は新しいタブーになりましたが、ジェミニやグロックなどの他のAIチャットボットは、異なるプラットフォーム間でコンテンツの制限に大きな違いがあることを示しています。
この事件が発酵するにつれて、人々はAIコンテンツの検閲の合理性と透明性についてより多くの質問を提起しました。多くの人々は、将来のAIが、不必要な制限と誤解を避けながら、合理的な範囲内のユーザーの多様なニーズをよりよく満たすことができると期待しています。