El último informe de Gartner muestra que los ataques cibernéticos con IA se han convertido en el mayor riesgo que enfrenta las empresas y se han clasificado primero durante tres cuartos. El informe se basa en una encuesta de 286 ejecutivos de auditoría de riesgos y auditorías, y el 80% de los encuestados expresó su preocupación por los ataques maliciosos mejorados por AI. Los atacantes usan AI para escribir malware, crear correos electrónicos de phishing realistas e incluso realizar ataques de denegación distribuidos a gran escala de servicios. La aplicación de IA reduce el umbral para el delito cibernético, lo que permite a los atacantes con niveles técnicos más bajos para llevar a cabo fácilmente ataques cibernéticos complejos, lo que plantea desafíos severos para la protección de seguridad empresarial.
Según un último informe publicado por Gartner, la aplicación de la inteligencia artificial (IA) en los ataques cibernéticos se ha convertido en el mayor riesgo que enfrenta las empresas durante tres trimestres consecutivos.
La firma de consultoría encuestó a 286 ejecutivos senior de riesgos y auditoría entre julio y septiembre y descubrió que el 80% de los encuestados expresó profundas preocupaciones sobre los ataques maliciosos mejorados por AI. Esta tendencia no es sorprendente, ya que hay evidencia de que los ataques cibernéticos que usan IA están en aumento.
Notas de fuente de imagen: La imagen es generada por AI y el proveedor de servicios autorizado de imagen MidJourney
El informe también enumera algunos otros riesgos emergentes, incluida la información asistida por AI-AI-engañosa, el aumento de la polarización política y la asignación de talento organizacional no coincidente. Los atacantes están utilizando AI para escribir malware, hacer correos electrónicos de phishing y más. Tomemos HP como ejemplo, los investigadores interceptaron una campaña de correo electrónico que difunde malware en junio, sospechando que sus scripts fueron escritos con la ayuda de IA generativa. El script está bien estructurado y cada comando tiene comentarios, lo cual no es común en la escritura manual.
Según los datos de la compañía de seguridad VIPRE, el número de ataques de fraude por correo electrónico comercial aumentó en un 20% en el segundo trimestre de 2023 en comparación con el mismo período del año pasado, con casi el 50% de los cuales fueron generados por IA. Los CEO, los recursos humanos y el personal de TI son los principales objetivos. El director de productos y tecnología de Vipre, Usman Choudhary, dijo que los delincuentes están utilizando algoritmos de IA sofisticados para crear correos electrónicos de phishing convincentes que imitan el tono y el estilo de las comunicaciones legítimas.
Además, los sitios minoristas sufrieron un promedio de 569,884 ataques con IA por día, según el informe de investigación de amenazas de Imperva. Los investigadores notaron que las herramientas como ChatGPT, Claude y Gemini, así como robots que se especializan en rastrear datos del sitio web para capacitar a modelos de idiomas grandes, se están utilizando para realizar actividades como ataques distribuidos de denegación de servicios y abuso lógico comercial.
Cada vez más piratas informáticos éticos también han reconocido el uso de IA generativa, con el porcentaje aumentando del 64% el año pasado al 77%. Los investigadores dicen que la IA puede ayudar con ataques multicanal, ataques de inyección de fallas y ataques automáticos, que pueden atacar múltiples dispositivos simultáneamente. Como tal, si las "buenas personas" piensan que la IA es útil, las "malas personas" también utilizarán esta tecnología.
El aumento de la IA no es sorprendente porque reduce el umbral para el delito cibernético, lo que permite que los delincuentes con niveles técnicos más bajos usen IA para generar falsificación profunda, escanear portales de red, realizar reconocimiento, etc. Los investigadores del Instituto Swiss Federal de Tecnología desarrollaron recientemente un modelo que puede resolver el problema de Google Recaptcha V2 100%. Los analistas de la firma de seguridad Radware predijeron a principios de este año que la aparición de modelos GPT privados se utilizará para fines maliciosos, y el número de vulnerabilidades de día cero y fraude de fallas profundas aumentará en consecuencia.
Gartner también señaló que los temas clave de los proveedores de TI han estado en la lista del ejecutivo por primera vez. Zachary Ginsburg, director senior de práctica de riesgo y auditoría en Gartner, dijo que los clientes que dependen centralmente de un solo proveedor pueden enfrentar mayores riesgos. Al igual que el incidente que Dstrike ocurrió en julio, paralizando a 8.5 millones de dispositivos de Windows en todo el mundo, causando grandes impactos en los servicios de emergencia, aeropuertos y agencias de aplicación de la ley.
En resumen, el efecto de espada de doble filo de la tecnología de IA se está volviendo cada vez más prominente. ataques de red y garantizar su propia seguridad en la era digital.