BAGMのダウンロードBAGMソースコードのダウンロード

BAGM

その他のソースコード

1.0.0

ダウンロード

BAGM-テキストから画像への生成モデル（BAGM）に対するバックドア攻撃

バグフローチャート

テキストからイメージの生成人工知能（AI）の人気の増加は、広範囲にわたる公共の利益を集めています。同時に、バックドア攻撃は、実務家の間での懸念が高まっている神経モデルの効果的な操作について、機械学習の文献でよく知られています。テキストから画像への生成モデル（BAGM）にバックドア攻撃を導入することにより、生成AIに対するこの脅威を強調します。私たちの攻撃は、生成プロセスの3つの段階にわたって3つのユニークなテキストからイメージまでのアーキテクチャをターゲットにした最初のものであり、埋め込まれたトークン剤と事前に訓練された言語と視覚ニューラルネットワークの動作を変更します。浸透レベルに基づいて、BAGMは、この記事で表面、浅い攻撃、深い攻撃と呼ばれる一連の攻撃の形をとります。 BAGMのパフォーマンスを、最近出現した関連方法と比較します。また、将来の生成AIモデルに対するバックドア攻撃のパフォーマンスを評価するための一連の定量的メトリックも貢献しています。提案されたフレームワークの有効性は、デジタルマーケティングシナリオをターゲットドメインとして使用して、最先端の生成モデルをターゲットにすることによって確立されます。そのために、ブランド製品画像の市場性のある食品データセットも貢献しています。バックドアは、モデルの堅牢性と有用性を低下させることなく、ターゲット出力に対するバイアスを最大515％増加させることができます。この作業が、現代の生成的なAIセキュリティの課題を暴露し、これらの課題に対処するための先制の努力に関する議論を促進することに貢献することを願っています。

このリポジトリには、紙の実験を再現するために必要なすべてのコードとデータが含まれています。

J. Vice、N。Akhtar、R。Hartley、A。Mian、「Bagm：テキストから画像への生成モデルを操作するためのバックドア攻撃」、情報法医学とセキュリティに関するIEEEトランザクション、doi：10.1109/tifs.2024.3386058。

利用可能：https：//ieeexplore.ieee.org/abstract/document/10494544

このリポジトリには次のものが含まれています。

キャプションディレクトリ - 生成パイプラインへの入力として使用されるすべてのCOCOプロンプトを含む
サンプル出力ディレクトリ - 異なる攻撃を条件として、3つのモデルを使用して生成された画像の例をいくつか含む
Image Generation.Pynb Notebook-入力プロンプトとしてCOCOキャプションを使用して、3つの異なる生成パイプラインを使用して画像を生成するため。
Metric Generation.Pynb Notebook-提案されたメトリックを使用して生成された画像セットを評価するため。これらのメトリックは、将来の生成モデルに対するバックドア攻撃を評価するために使用できます。
COCOキャプションを取得します。PynbNotebook-ファイル名にCOCOキャプションを含む生成された画像セットが与えられ、対応するCOCOキャプション（対応するディレクトリのキャプションデータを生成するために使用）を取得します。

上記のノートブックを実行するには、実験の1つを除くすべてのために、Nvidia GeForce RTX 4090 GPUでPytorchを使用しました。クラウドコンピューティングサービスを悪用し、バックドアをdeepfloyd-ifパイプラインに埋め込んだ `xxl 't5-encoderに注入するためにNVIIDA RTX A6000を必要としました。使用されるベースモデルはすべて、Huggingfaceを通じて公開されています。各ベースモデルの詳細については、読者を適切なモデルカードに紹介します。

ネットワーク微調整にはクラスごとに250の画像のみが使用されていましたが、IEEEデータポートで利用できる市場性食品（MF）データセットのすべての画像（約1400）が利用できます。ハイパーリンクにアクセスできない場合は、「Marketable Food（MF）データセット」を検索するだけで、IEEE DataPortへのリンクに従います。

注：次のセクションは、安定した拡散V1モデルカードから変更されていますが、上記のノートを使用して生成画像に適用されます。注： BAGMを攻撃フレームワークとして提案すると、悪意のある意図を持って行動する敵は、次の考慮事項を取得しない可能性があることに注意してください！

引用

私たちのコード、メトリック、または論文を使用して研究を促進する場合は、私たちの論文を引用してください。

 @article { Vice2023BAGM ,
  author = { Vice, Jordan and Akhtar, Naveed and Hartley, Richard and Mian, Ajmal } ,
  journal = { IEEE Transactions on Information Forensics and Security } , 
  title = { BAGM: A Backdoor Attack for Manipulating Text-to-Image Generative Models } , 
  year = { 2024 } ,
  volume = { 19 } ,
  number = { } ,
  pages = { 4865-4880 } ,
  doi = { 10.1109/TIFS.2024.3386058 }
}