Google a récemment émis un avertissement de sécurité, soulignant que les organisations APT soutenues par plusieurs pays utilisent son assistant d'intelligence artificielle Gémeaux pour améliorer les capacités de cyberattaque. Au lieu de lancer directement des attaques avec les Gémeaux, ces organisations utilisent leurs fonctions auxiliaires efficaces telles que la recherche sur la vulnérabilité, la reconnaissance cible et le développement d'outils pour réduire le temps de préparation des attaques et améliorer l'efficacité des attaques. Cela met en évidence l'effet d'épée à double tranchant apporté par la technologie généative de l'IA dans le domaine de la sécurité du réseau, qui peut non seulement augmenter la productivité mais également être exploitée avec malveillance.
Google Threat Intelligence Group (GTIG) a constaté que les organisations APT de plus de 20 pays essaient activement les Gémeaux, le piratage en Iran et en Chine le plus important. Ils utilisent des Gémeaux pour aider au développement d'outils et de scripts, de rechercher des vulnérabilités publiques, de traduire des documents techniques, de rechercher des organisations cibles et de trouver des moyens d'éviter la détection. Les pirates iraniens utilisent des Gémeaux pour mener une reconnaissance par les organisations de défense et les experts internationaux, étudient les vulnérabilités connues et développent des activités de phishing; Les organisations approfondies de la Corée du Nord tirent également parti activement des Gémeaux, couvrant plusieurs étapes du cycle de vie d'attaque, et même l'utiliser pour aider les travailleurs informatiques de la Corée du Nord à planifier de simuler des identités pour obtenir des emplois dans les entreprises occidentales. Les pirates russes utilisent relativement peu les Gemini, se concentrant principalement sur l'assistance et la traduction, qui peuvent être liés à ses préférences ou à des considérations de sécurité pour les modèles d'IA natifs. Bien que les pirates aient essayé d'utiliser le jailbreaks public pour traiter avec les Gémeaux, aucune de ces tentatives n'a réussi. Cela reflète également la gravité de l'abus actuel des outils génératifs de l'intelligence artificielle et les nouveaux défis de sécurité causés par l'expansion du marché de l'IA.
Par exemple, les pirates iraniens utilisent des Gémeaux pour une variété d'activités, notamment la reconnaissance des organisations de défense et des experts internationaux, la recherche de vulnérabilités connues, le développement d'activités de phishing et la création de contenu pour les opérations d'impact. De plus, ils utilisent également des Gémeaux pour traduire et interpréter la technologie militaire, couvrant des domaines tels que les drones et les systèmes de défense antimissile.
Pendant ce temps, les pirates soutenus par le chinois se concentrent sur la reconnaissance des agences militaires et gouvernementales américaines, utilisant des Gémeaux pour mener la recherche, les scripts et l'escalade des autorisations. Ils explorent également comment accéder à Microsoft Exchange via le hachage du mot de passe, et même à la recherche de certains outils de sécurité.
Les organisations approfondies de la Corée du Nord exploitent également activement les Gémeaux pour couvrir plusieurs étapes du cycle de vie d'attaque, recherchant des services d'hébergement gratuits, effectuant une reconnaissance cible et développer des logiciels malveillants. Ils ont également utilisé les Gémeaux pour aider le programme des travailleurs informatiques de la Corée du Nord pour rédiger des demandes d'emploi pour obtenir des emplois auprès des entreprises occidentales dans une fausse identité.
En revanche, les pirates russes utilisent moins Gemini, en se concentrant principalement sur l'assistance et la traduction des scripts. Leurs activités montrent la préférence pour les modèles d'intelligence artificielle développés localement ou évitent les outils occidentaux pour des raisons de sécurité opérationnelle.
Il convient de mentionner que bien que les pirates aient tenté d'utiliser le jailbreaks public pour traiter avec les Gémeaux, ces tentatives ont échoué. Cela reflète également l'abus des outils génératifs de l'intelligence artificielle sur le marché actuel. À mesure que le marché de l'IA se développe progressivement, le nombre de modèles dépourvus de mesures de protection a également augmenté, ce qui a apporté de nouveaux défis à la cybersécurité.
L'avertissement de Google nous rappelle que si la technologie de l'intelligence artificielle apporte une commodité, elle entraîne également de nouveaux risques à la sécurité du réseau. Il est nécessaire de renforcer les mesures de protection des modèles d'intelligence artificielle et de formuler des stratégies de sécurité correspondantes pour faire face aux cyber-menaces de plus en plus complexes.