Según el último informe de investigación de Gartner, el uso generalizado de la tecnología generativa de inteligencia artificial (Genai) traerá riesgos significativos de seguridad de datos. Se estima que para 2027, más del 40% de las violaciones de datos relacionadas con la IA se atribuirán directamente al uso indebido de la inteligencia artificial generativa. Este pronóstico destaca los desafíos serios que enfrentan las empresas en la adopción de la tecnología Genai, especialmente en las medidas de gobernanza y seguridad de datos.
Con la rápida popularización de la tecnología Genai, los desafíos encontrados por las organizaciones en el contexto de la localización de datos son particularmente prominentes. La alta demanda de potencia informática centralizada de estas tecnologías ha llevado a un aumento significativo en el riesgo de flujo de datos transfronterizo. Joerg Fritsch, vicepresidente analista de Gartner, enfatizó que muchas compañías carecen de la supervisión necesaria al integrar las herramientas Genai, lo que resulta en la posibilidad de transmitir accidentalmente datos confidenciales a ubicaciones desconocidas, lo que plantea serios riesgos de seguridad.
La falta de estándares de gobernanza de datos unificados en todo el mundo es otro desafío clave. Esta falta de estandarización ha llevado a la fragmentación del mercado, lo que obliga a las empresas a desarrollar estrategias específicas para diferentes regiones, lo que no solo aumenta los costos operativos, sino que también limita su capacidad para utilizar de manera efectiva productos y servicios a nivel mundial. "La complejidad de la gestión de los flujos de datos y los problemas de mantenimiento de calidad provocados por las políticas de IA localizadas pueden conducir a una disminución significativa en la eficiencia operativa", señaló Fritsch.
Para abordar estos riesgos, las empresas necesitan realizar inversiones estratégicas en el gobierno y la seguridad de la IA. Gartner predice que para 2027, la gobernanza de IA generalmente se requerirá en todo el mundo, especialmente en el marco de las leyes y regulaciones soberanas de IA. Las organizaciones que no integran los modelos de gobierno necesarios de manera oportuna enfrentarán desventajas competitivas y pueden perder oportunidades de mercado.
Para reducir el riesgo de violaciones de datos de IA, Gartner recomienda que las empresas adopten una estrategia múltiple: primero, fortalezca la gobernanza de datos, garantice el cumplimiento de las regulaciones internacionales y monitoree las transferencias inesperadas de datos transfronterizos; segundo, establecer un comité de gobierno dedicado para mejorar la transparencia en la implementación de IA y el procesamiento de datos; Finalmente, adopte tecnologías de seguridad de datos avanzadas, como el cifrado y el anonimato para proteger la información confidencial.
Además, las empresas deben invertir en productos de gestión de confianza, riesgo y seguridad (Trismos) relacionados con la tecnología de IA. Esto incluye la gobernanza de la IA, el gobierno de seguridad de datos, el filtrado rápido y la acción roja, y la síntesis para generar datos no estructurados. Gartner predice que para 2026, las empresas que implementan el control de ai trish reducirán la información inexacta en al menos un 50%, reduciendo significativamente el riesgo de decisiones equivocadas.
Los puntos clave incluyen: más del 40% de las violaciones de datos de IA se desencadenarán por el mal uso generativo de IA; Las empresas deben fortalecer el gobierno de datos para garantizar el cumplimiento y la seguridad; Invertir en productos de gestión de confianza, riesgo y seguridad relacionados con la IA puede reducir significativamente la generación de información errónea. Estas recomendaciones proporcionan guías claras para que las empresas enfrenten los desafíos planteados por Genai.