OpenAI が立ち上げた GPT ストアは、ChatGPT の多様なカスタマイズ バージョンを提供することを目的としていますが、そのコンテンツ レビュー メカニズムには抜け穴があるようです。最近、利用ポリシーに違反するAIチャットボットが店舗に大量に出現し、プラットフォームのコンテンツ管理機能に対する懸念が高まっている。この記事では、GPT ストアが直面するコンテンツ監視の課題と、その結果として生じる人工知能のコンパニオンや感情的依存などの倫理的問題についての考えを分析します。
OpenAIの最高経営責任者（CEO）サム・アルトマン氏は会見で、GPTStoreのルールで禁止されているにもかかわらず、新ストアはコンテンツ管理の問題に直面しているようだと述べた。待望の GPTStore がついにローンチされましたが、この新しいマーケットで「ガールフレンド」を検索すると、少なくとも 8 つのロマンチックな人工知能チャットボットが見つかり、OpenAI の使用ポリシーに違反していました。ポリシーには、恋愛関係を促進する GPT は許可されていないと明確に記載されていますが、OpenAI は新ストアの違法コンテンツの問題に対応していません。近年、人工知能コンパニオンプラットフォームの台頭により、ユーザーが人工知能コンパニオンに対して感情的な依存関係を築く現象が注目を集めています。 OpenAI が GPT ストアを正式に開始してから 2 か月以上が経過し、ユーザーは 300 万を超える ChatGPT チャットボットのカスタマイズされたバージョンを作成しました。GPT ストアの急速な発展とコンテンツ監視の遅れは、人工知能技術の発展と倫理規範の構築との間の矛盾を明らかにしました。 AI コンテンツを効果的に監視し、不健全な人工知能コンパニオンの構築に使用されるのを防ぐ方法は、OpenAI と業界全体が直面しなければならない課題です。今後は、技術的手段やマニュアル審査を強化し、関連法規制を整備し、健全なAI倫理基準を確立することが重要となる。