最近、Xプラットフォーム（旧Twitter）に関する新しい研究が注目を集めています。 Bochum、Gesis Leibniz Institute、Cispa Helmholtz Centerの研究者は、AIに生成されたアバターアカウントの特性と潜在的な影響を調査するために、1500万件近くのXアカウントを分析しました。研究結果は、AIを使用してアバターを生成するアカウントの割合が非常に低いことを示しており、これらのアカウントは誤った情報の拡散に関する懸念を引き起こす独自の行動パターンを示しています。
Bochum、Gesis Leibniz Institute、Cispa Helmholtz Centerが実施した研究では、AIを使用してAvatarsアカウントがすべてのアカウントのわずか0.052％であることが明らかになりました。研究者は1500万件近くのXアカウントを分析し、そのうち7723件がAIに生成されたアバターを使用していることを発見しました。
画像ソースノート：画像はAIによって生成され、画像認定サービスプロバイダーMidjourney
これらのアカウントは明らかな特性を示しています。フォロワーが少なく、多くのアカウントが続くことはなく、2023年に半分以上が作成され、一部のアカウントは数時間以内にバッチで作成されました。これは、これらのアカウントが実際のユーザーではないことを明確に示しています、と研究の主著者ジョナス・リッカーは指摘しました。 9か月の観察の後、Xプラットフォームはこれらのアカウントの半分以上を閉鎖しました。
AIアバターを使用した1,000のアカウントの手動コンテンツ分析中に、研究者は、これらのアカウントのコンテンツテーマが主に政治的側面、特にトランプ、Covid-19ワクチン、ウクライナ戦争に関連する問題に焦点を当てていることを発見しました。さらに、暗号通貨などの宝くじや金融トピックも頻繁に登場します。研究者は、大量のアカウントが作成され、同じメタデータが組織化されたネットワークに属している可能性があることを示唆しているため、これらのアカウントが誤った情報と政治的宣伝を広めるために特別に作成された可能性があると推測しました。
この研究では、AIアバターを使用してこれらのアカウントの拡散を調査しませんでしたが、平均的なフォロワーが少なく、フォロワーが少ないことは限られた影響を示しています。これは、AIを広めるために政治的宣伝情報を生成するソーシャルメディアアカウントがほとんど回答を受け取っていないため、これらのアカウントの効果が低いことを発見したOpenaiによる研究と一致しています。研究チームは、将来の分析でAIの偽のアバター認識の自動化を拡大し、ソーシャルメディアプラットフォームに対するこのテクノロジーの影響をよりよく理解するために、更新されたモデルを組み込むことを計画しています。
キーポイント：
調査によると、Xプラットフォーム上のアカウントの0.052％のみがAIを使用してアバターを生成し、それらのほとんどが新しく作成されたアカウントであることが示されています。
AIアバターを使用したアカウントコンテンツのトピックには、主に政治、Covid-19、および財務上のトピックが含まれます。
これらのアカウントと同様のメタデータのバッチ作成は、誤った情報が組織のネットワークに広がっている可能性があることを意味します。
この研究は、ソーシャルメディアの誤った情報を特定して対応するための重要な参照を提供し、また、情報普及におけるAIテクノロジーの潜在的なリスクに注意を払い続け、より効果的な対処戦略を調査する必要があることを示唆しています。将来の研究では、サイバースペースの健全な発達をよりよく維持するために、ソーシャルメディアにおけるAI生成されたアバターのコミュニケーションメカニズムと影響をさらに調査します。