谷歌DeepMind发布了一份关于恶意AI应用的开创性研究报告，该报告揭示了生成式AI工具滥用的主要趋势。研究关注了全球范围内生成式AI的风险，特别是那些被大型科技公司推向市场以追求巨额利润的工具。研究团队DeepMind和Jigsaw合作，分析了数百起滥用案例，旨在量化这些风险，并为未来AI安全策略提供数据支持。报告中发现，虚假信息传播，特别是“Deepfakes”的生成，已经成为最常见的恶意AI应用，对公众舆论和政治进程构成了严重威胁。
谷歌 DeepMind 首次进行了关于最常见的恶意 AI 应用的研究，结果显示生成虚假政治家和名人的人工智能（AI）“Deepfakes” 比用 AI 协助网络攻击的尝试更为普遍。这一研究是谷歌 AI 部门 DeepMind 和谷歌旗下的研发单位 Jigsaw 合作的，目的是量化生成 AI 工具的风险，这些工具已被全球最大的科技公司推向市场以寻求巨额利润。
与技术相关的不良行为者的动机
研究发现，制作真实但虚假的人物图像、视频和音频的行为几乎是滥用生成 AI 工具的次数最多的一种，比其他次高的使用文本工具（例如聊天机器人）伪造信息的方式高出近两倍。滥用生成 AI 的最常见目标是影响公众舆论，这占用了27% 的使用情况，引发了对 Deepfakes 如何影响今年全球选举的担忧。
近几个月来，英国首相 Rishi Sunak 和其他全球领袖的 Deepfakes 出现在 TikTok、X 和 Instagram 上。英国选民将在下周的大选中投票。尽管社交媒体平台努力标注或删除此类内容，但人们可能不会认识到这是虚假的，而内容的传播可能会影响选民的投票。DeepMind 的研究人员分析了大约200起滥用行为，涉及社交媒体平台 X 和 Reddit，以及在线博客和媒体报道滥用行为的情况。
研究发现，滥用 AI 生成产品（如 OpenAI 的 ChatGPT 和谷歌的 Gemini）的第二大动机是赚钱，无论是提供创建 Deepfakes 的服务，还是使用生成 AI 创建大量内容，例如虚假新闻文章。研究发现，大多数滥用行为使用易于获得的工具，“需要最少的技术专业知识”，这意味着更多的不良行为者可以滥用生成 AI。
DeepMind 的研究将影响其改进评估模型的安全性，并希望这也会影响其竞争对手和其他利益相关者如何看待 “危害的表现”。
划重点:
- DeepMind 的研究发现 Deepfakes 是滥用人工智能应用的首要问题。
- 最常见的滥用生成 AI 工具的目的是影响公众舆论，占使用情况的27%。
- 滥用生成 AI 的第二大动机是赚钱，主要包括提供 Deepfakes 服务和虚假新闻的创建。
这项研究对于了解和应对生成式AI带来的潜在风险至关重要。DeepMind的研究结果强调了需要开发更有效的安全机制和监管框架，以防止恶意行为者利用AI技术进行有害活动，保障公众利益和信息安全。 未来，类似的研究将持续推动AI技术的安全发展。