Selon le dernier rapport de recherche de Gartner, l'utilisation généralisée de la technologie de l'intelligence artificielle générative (Genai) entraînera des risques importants de sécurité des données. On estime qu'en 2027, plus de 40% des violations de données liées à l'IA seront directement attribuées à l'utilisation abusive de l'intelligence artificielle générative. Cette prévision met en évidence les graves défis auxquels sont confrontés les entreprises dans l'adoption de la technologie Genai, en particulier dans la gouvernance des données et les mesures de sécurité.
Avec la vulgarisation rapide de la technologie Genai, les défis rencontrés par les organisations dans le contexte de la localisation des données sont particulièrement importants. La forte demande de pouvoir de calcul centralisé de ces technologies a entraîné une augmentation significative du risque de flux transfrontalier de données. Joerg Fritsch, vice-présidente de Gartner, analyste, a souligné que de nombreuses entreprises n'avaient pas la supervision nécessaire lors de l'intégration des outils Genai, ce qui a entraîné la possibilité de transmettre accidentellement des données sensibles à des emplacements inconnus, posant de sérieux risques de sécurité.
L'absence de normes de gouvernance des données unifiées dans le monde est un autre défi clé. Ce manque de normalisation a conduit à la fragmentation du marché, obligeant les entreprises à développer des stratégies spécifiques pour différentes régions, ce qui augmente non seulement les coûts d'exploitation, mais limite également leur capacité à utiliser efficacement les produits et services d'IA dans le monde. "La complexité de la gestion des flux de données et les problèmes de maintenance de la qualité provoqués par les politiques localisées d'IA peut entraîner une baisse significative de l'efficacité opérationnelle", a noté Fritsch.
Pour répondre à ces risques, les entreprises doivent faire des investissements stratégiques dans la gouvernance et la sécurité de l'IA. Gartner prévoit que d'ici 2027, la gouvernance de l'IA sera généralement requise dans le monde entier, en particulier dans le cadre des lois et réglementations soverines de l'IA. Les organisations qui ne parviennent pas à intégrer les modèles de gouvernance nécessaires en temps opportun seront confrontées à des inconvénients concurrentiels et pourront perdre des opportunités de marché.
Pour réduire le risque de violations de données sur l'IA, Gartner recommande que les entreprises adoptent une stratégie à plusieurs volets: premièrement, renforcer la gouvernance des données, assurer la conformité des réglementations internationales et surveiller les transferts de données transfrontaliers inattendus;
En outre, les entreprises devraient investir dans les produits de confiance, de gestion des risques et de sécurité (Trism) liés à la technologie de l'IA. Cela comprend la gouvernance de l'IA, la gouvernance de la sécurité des données, le filtrage rapide et l'action rouge et la synthèse pour générer des données non structurées. Gartner prédit qu'en 2026, les entreprises mettant en œuvre le contrôle de l'IA Trism réduiront des informations inexactes d'au moins 50%, ce qui réduira considérablement le risque de mauvaises décisions.
Les points clés comprennent: plus de 40% des violations de données de l'IA seront déclenchées par une mauvaise utilisation de l'IA; Ces recommandations fournissent des guides clairs aux entreprises pour relever les défis posés par Genai.