De acordo com o mais recente relatório de pesquisa do Gartner, o uso generalizado da tecnologia generativa de inteligência artificial (GENAI) trará riscos significativos de segurança de dados. Estima-se que, em 2027, mais de 40% das violações de dados relacionadas à IA sejam atribuídas diretamente ao uso indevido de inteligência artificial generativa. Esta previsão destaca os sérios desafios que as empresas enfrentam na adoção da tecnologia Genai, especialmente nas medidas de governança e segurança de dados.
Com a rápida popularização da tecnologia Genai, os desafios encontrados pelas organizações no contexto da localização de dados são particularmente proeminentes. A alta demanda por poder de computação centralizado dessas tecnologias levou a um aumento significativo no risco de fluxo transfronteiriço de dados. Joerg Fritsch, vice -presidente de analista do Gartner, enfatizou que muitas empresas não têm a supervisão necessária ao integrar ferramentas genai, resultando na possibilidade de transmitir acidentalmente dados confidenciais a locais desconhecidos, apresentando sérios riscos de segurança.
A falta de padrões unificados de governança de dados em todo o mundo é outro desafio -chave. Essa falta de padronização levou à fragmentação do mercado, forçando as empresas a desenvolver estratégias específicas para diferentes regiões, o que não apenas aumenta os custos operacionais, mas também limita sua capacidade de utilizar efetivamente os produtos e serviços de IA em todo o mundo. "A complexidade do gerenciamento de fluxos de dados e os problemas de manutenção da qualidade provocados pelas políticas localizadas de IA podem levar a um declínio significativo na eficiência operacional", observou Fritsch.
Para abordar esses riscos, as empresas precisam fazer investimentos estratégicos em governança e segurança da IA. O Gartner prevê que, até 2027, a governança da IA geralmente será necessária em todo o mundo, especialmente sob a estrutura das leis e regulamentos soberanos da IA. As organizações que não conseguem integrar os modelos de governança necessários em tempo hábil enfrentarão desvantagens competitivas e podem perder oportunidades de mercado.
Para reduzir o risco de violações de dados de IA, o Gartner recomenda que as empresas adotem uma estratégia multifacetada: primeiro, fortaleça a governança de dados, garantindo a conformidade com os regulamentos internacionais e monitore a transferência de dados transfronteiriços inesperados, como o segundo e o regulamento da Bridance e o Processamento de Dados;
Além disso, as empresas devem investir em produtos de confiança, risco e gerenciamento de segurança (TRISM) relacionados à tecnologia de IA. Isso inclui governança de IA, governança de segurança de dados, filtragem rápida e ação vermelha e síntese para gerar dados não estruturados. O Gartner prevê que, até 2026, as empresas que implementam o controle da IA reduzirão informações imprecisas em pelo menos 50%, reduzindo significativamente o risco de decisões erradas.
Os principais pontos incluem: mais de 40% das violações de dados da IA serão acionadas por uso indevido de IA generativo; Essas recomendações fornecem guias claros para as empresas lidarem com os desafios representados por Genai.