El rápido desarrollo de la tecnología de inteligencia artificial ha traído oportunidades sin precedentes a las empresas, pero también ha traído nuevos riesgos y desafíos. El aumento de la IA generativa ha atraído especial atención a sus posibles riesgos de seguridad. Este artículo analizará los últimos informes de riesgo publicados para explorar las dificultades que enfrentan las empresas para tratar los riesgos de IA generativos y cómo tomar medidas efectivas para garantizar su propia seguridad y cumplimiento.
En los últimos años, el rápido desarrollo de la inteligencia artificial (IA) ha traído muchas oportunidades para las empresas, pero al mismo tiempo, sus posibles amenazas se están volviendo cada vez más evidentes. Según el último "Informe de riesgo de nueva generación" de 2024, la encuesta muestra que hasta el 80% de las compañías encuestadas aún no han formulado planes de respuesta especiales para riesgos generativos de IA, incluidos riesgos de seguridad como el fraude en línea impulsado por la IA.
La encuesta fue realizada por Risk Connect, una compañía de software de gestión de riesgos, y los encuestados incluyeron 218 profesionales globales de cumplimiento de riesgos y resiliencia. Los resultados muestran que el 24% de los encuestados creen que las amenazas de seguridad cibernética impulsada por la IA, como el ransomware, el phishing y la falsificación profunda, tendrán un impacto significativo en las empresas en los próximos 12 meses. Mientras tanto, el 72% de los encuestados dijo que los riesgos de ciberseguridad han tenido un impacto significativo o grave en sus organizaciones, un aumento del 47% de los datos del año pasado.
A medida que se intensifican las preocupaciones sobre la ética de la IA, la privacidad y la seguridad, el informe señaló que, aunque las preocupaciones de las empresas sobre la IA han aumentado, no han logrado hacer un seguimiento en el tiempo en las estrategias de gestión de riesgos, y todavía hay muchas brechas clave. Por ejemplo, el 65% de las empresas no tienen políticas para el uso de IA generativa en socios y proveedores, aunque terceros son canales comunes de intrusión para los estafadores cibernéticos.
Las amenazas internas no deben subestimarse. Tomando el ejemplo de usar IA generativa para producir contenido de marketing, el experto en marketing Anthony Miyazaki recuerda que, aunque la IA generativa funciona bien en la escritura de textos, la copia final aún debe editarse manualmente para garantizar su persuasión y precisión. Además, confiar en la IA para generar contenido del sitio web también puede conducir a efectos negativos. Optimización del motor (SEO).
Para abordar estos desafíos, las empresas deben garantizar una cobertura total de las políticas internas, garantizar la seguridad de los datos confidenciales y cumplir con las regulaciones relevantes. John Skimoni, director de seguridad de Del Technology, dijo que habían formulado principios antes del auge generativo de IA para garantizar que las aplicaciones de IA sean justas, transparentes y responsables.
En Empathy First Media, el vicepresidente Ryan Doser también enfatizó las estrictas medidas tomadas por la Compañía para usar la IA por parte de los empleados, incluida la prohibición del aporte de datos sensibles al cliente en herramientas generativas de IA, que requieren una revisión manual de contenido generado por IA, etc. Estas medidas están diseñadas para aumentar la transparencia y generar confianza del cliente.
Puntos clave:
El 80% de las empresas no han desarrollado planes especializados para riesgos generativos de IA y enfrentan riesgos de seguridad potenciales.
El 72% de las empresas creen que los riesgos de ciberseguridad han tenido un impacto significativo en ellas y exigir una mayor gestión de riesgos.
Las empresas deben tomar medidas positivas para garantizar la seguridad y el cumplimiento de las aplicaciones de IA y evitar amenazas internas y externas.
En resumen, las empresas deben responder activamente a los riesgos de seguridad presentados por la IA generativa, formular estrategias completas de gestión de riesgos y fortalecer los controles de seguridad internos para mantener la competitividad en la era de la IA y continuar desarrollándose de manera saludable. Ignorar los riesgos de IA probablemente conducirá a graves accidentes de seguridad y pérdidas económicas.