El editor de Downcodes le ofrece los últimos resultados de la encuesta del IBM Institute for Business Value: ¡Casi la mitad de los directores ejecutivos están preocupados por la precisión y el sesgo de la IA! Esta encuesta abarcó 24 países de todo el mundo e involucró a 5.000 ejecutivos. Proporcionó un análisis en profundidad del estado actual y los desafíos de las empresas en materia de gobernanza, gestión de riesgos y ética de la IA. El informe señala que, aunque muchas empresas han tomado medidas para hacer frente a los riesgos de la IA, todavía hay mucho margen de mejora y es crucial construir un marco sólido de gobernanza de la IA.
En términos de gobernanza de la IA, la encuesta muestra que el 21% de los ejecutivos cree que la madurez de la gobernanza de la IA de su organización se encuentra en la etapa sistemática o innovadora, lo que indica que las empresas todavía tienen mucho margen de mejora en esta área. La gobernanza de la IA se refiere a principios, políticas y prácticas de desarrollo responsable que sean consistentes con la ética y los valores humanos.
En respuesta a las preocupaciones sobre la precisión y el sesgo de la IA, el 60% de los ejecutivos de alto nivel dijeron que han establecido un jefe claro de IA generativa dentro de su organización. Mientras tanto, el 78% de los ejecutivos dijeron que mantienen documentación exhaustiva para garantizar que la IA sea explicable. Además, el 74% de las empresas realiza evaluaciones de impacto ético y el 70% realiza pruebas de usuario para evaluar y mitigar riesgos potenciales. La encuesta también encontró que el 80% de los ejecutivos de alta dirección dijeron que la empresa tiene una función de gestión de riesgos dedicada y centrada en la aplicación de IA o IA generativa.
Phaedra Boinodiris, líder mundial de confianza en IA de IBM Consulting, señaló que establecer un marco de gobernanza sólido para promover la responsabilidad, la transparencia y la explicabilidad es el principal objetivo actual de las empresas. Sugirió que al establecer una base para una gobernanza responsable de la IA, las empresas pueden considerar una serie de acciones, incluida la mejora de la alfabetización en IA de todos los empleados para que tengan tanto las habilidades técnicas para usar la IA de manera efectiva como la capacidad de desarrollar habilidades de pensamiento crítico. . Además, las empresas deben asegurarse de que sus sistemas de medición estén alineados con los valores fundamentales, incluidos los de sus partes interesadas, al tiempo que introducen equipos diversos y multidisciplinarios en los sistemas de gobernanza para el desarrollo y la adquisición de modelos de IA.
Las investigaciones también muestran que las empresas con mayor madurez tecnológica tienden a prestar más atención a la gobernanza de la IA, mientras que las empresas con menor madurez tecnológica enfrentan la complejidad de las opciones de gobernanza. IBM enfatiza que un marco flexible de gobernanza de la IA puede ayudar a las empresas a adaptarse a los cambios del mercado, reducir los riesgos y promover una mayor adopción para aprovechar el potencial de la IA.
Este informe de investigación forma parte de una serie de informes sobre IA generativa realizados por el IBM Institute for Business Value, con el objetivo de revelar las oportunidades y desafíos que esta tecnología brinda a las empresas globales. Otros informes relacionados muestran que el 77% de los líderes empresariales cree que la IA generativa está lista para el mercado y que la rápida adopción de esta tecnología es fundamental para seguir siendo competitivo.
Este informe proporciona una referencia valiosa sobre cómo las empresas equilibran la innovación y el riesgo en las aplicaciones de inteligencia artificial, y también destaca la importancia de establecer un marco sólido de gobernanza de la IA. Sólo de esta manera se puede maximizar el potencial de la IA y al mismo tiempo evitar riesgos potenciales. El editor de Downcodes seguirá prestando atención a las tendencias en el campo de la IA y ofreciéndole contenido más interesante.