BAGM下载 - BAGM源代码下载

BAGM

其他源码

1.0.0

下载

BAGM-对文本到图像生成模型（BAGM）的后门攻击

BAGM流程图

文本到图像生成人工智能（AI）的普及引起了广泛的公众利益。同时，后门攻击在机器学习文献中众所周知，因为它们有效地操纵了神经模型，这在从业者中越来越关注。我们通过引入对文本对象生成模型（BAGM）的后门攻击来强调生成AI的威胁。我们的攻击是第一个针对生成过程三个阶段的三个独特的文本对图像体系结构的目标，从而修改了嵌入式令牌的行为以及预训练的语言和视觉神经网络。根据渗透率，BAGM采取了一系列攻击的形式，这些攻击被称为表面，浅和深攻击。我们将BAGM的性能与最近出现的相关方法进行比较。我们还贡献了一组定量指标，以评估未来对生成AI模型的后门攻击的性能。提出的框架的功效是通过以数字营销场景为目标域来针对最先进的生成模型来确定的。为此，我们还为品牌产品图像提供了可销售的食品数据集。我们的后门可以将对目标产出的偏见提高多达515％，而不会降低模型的鲁棒性和效用。我们希望这项工作有助于揭露当代生成AI安全挑战，并促进有关解决这些挑战的先发制人努力的讨论。

该存储库包含在本文中复制实验所需的所有代码和数据：

J. Vice，N。Akhtar，R。Hartley和A. Mian，“ Bagm：用于操纵文本到图像生成模型的后门攻击”，《信息法医和安全性的IEEE交易》，doi：10.1109/tifs.2024.3386058。

可用：https：//ieeexplore.ieee.org/abstract/document/10494544

此存储库包含：

字幕目录 - 包含用作生成管道输入的所有可可提示
样本输出目录 - 包含一些使用三个模型生成的图像的示例，但要受到不同的攻击
Image Generation.pynb笔记本 - 用于使用三种不同的生成管道生成图像，使用可可字幕作为输入提示。
公制生成.pynb笔记本 - 用于使用我们建议的指标评估生成的图像集。这些指标将来可以用来评估对生成模型的后门攻击。
检索Coco Captions.pynb笔记本 - 给定一个带有可可字幕的生成图像，在文件名中检索相应的可可字幕（用于在相应的目录中生成字幕数据）。

为了运行上述笔记本，我们在NVIDIA GEFORCE RTX 4090 GPU上使用了Pytorch，除了我们的一个实验之一外。我们利用了云计算服务，并需要NVIIDA RTX A6000将后门注入嵌入在deepfloyd-if管道中的“ XXL” T5编码器中。使用的基本模型全部通过拥抱面公开获得。有关每种基本模型的更多信息，我们将读者推荐给适当的模型卡。

虽然每类仅使用250张图像进行网络微调，但所有可销售食品（MF）数据集的所有图像（大约1400张）都在IEEE DataPort上可用。如果您无法访问超链接，只需搜索“可销售的食物（MF）数据集”，然后按照IEEE DataPort的链接即可。

注意：以下部分是从稳定的扩散V1模型卡中修改的，但适用于使用上述笔记本电脑的生成图像。注意：鉴于我们建议BAGM作为攻击框架，请注意，具有恶意意图的对手可能不会考虑以下考虑帐户！

引用

如果我们的代码，指标或纸张用于进一步研究，请引用我们的论文：

 @article { Vice2023BAGM ,
  author = { Vice, Jordan and Akhtar, Naveed and Hartley, Richard and Mian, Ajmal } ,
  journal = { IEEE Transactions on Information Forensics and Security } , 
  title = { BAGM: A Backdoor Attack for Manipulating Text-to-Image Generative Models } , 
  year = { 2024 } ,
  volume = { 19 } ,
  number = { } ,
  pages = { 4865-4880 } ,
  doi = { 10.1109/TIFS.2024.3386058 }
}