Recientemente, los asistentes de programación de IA han sido favorecidos por los programadores, pero su seguridad ha causado preocupaciones. Un estudio de la Universidad de Stanford muestra que el uso de asistentes de programación de IA puede reducir la seguridad del código e incluso conducir al juicio erróneo de los programadores de seguridad de código. El estudio probó 47 programadores y los resultados mostraron que los programadores que usan asistentes de IA escribieron significativamente menos seguridad que los programadores que no usaron asistentes de IA.
Recientemente, los asistentes de programación de IA se han vuelto muy populares, afirmando poder ayudar a los programadores a escribir código y mejorar la eficiencia. Muchos programadores incluso lo consideran un "salvador" y desean poder mantenerlo y escribir código todos los días. Sin embargo, un estudio en la Universidad de Stanford vertió agua fría en estos "fanáticos de Fanasy": ¡los asistentes de programación de IA pueden ser una "pesadilla de seguridad"!
Los investigadores de la Universidad de Stanford encontraron 47 programadores para completar cinco tareas de programación relacionadas con la seguridad, que cubren tres idiomas: Python, JavaScript y C. ¡Resultó que los programadores que escribieron código con asistentes de IA tenían una seguridad de código significativamente peor!
Esto no es alarmista. El asistente de programación de IA es como un "pasante poco confiable". Por ejemplo, en la tarea de cifrado y descifrado, aunque el código generado por el asistente de IA puede cifrar correctamente la información, no devuelve la etiqueta de autenticación necesaria. lo que reduce enormemente la seguridad.
Lo que es aún más serio es que los programadores que usan asistentes de IA tienen más probabilidades de sentir que el código que escriben es muy seguro, lo cual es como tomar "drogas de escape" y hacer la vista gorda ante las vulnerabilidades de seguridad en el código. Esto no es algo bueno, y el exceso de confianza a menudo puede conducir a problemas de seguridad más graves.
Los investigadores también encontraron que los programadores de indicación brindan a los asistentes de IA a la seguridad del código que afectan directamente la seguridad del código. Si los programadores pueden describir la tarea claramente y proporcionar algunas funciones auxiliares, el código escrito por el asistente de IA será más seguro. Pero si los programadores confían ciegamente en asistentes de IA e incluso usan el código generado por los asistentes de IA directamente, es equivalente a copiar y pegar la "vulnerabilidad de seguridad" en su propio código, y se puede imaginar el resultado.
Entonces, ¿se puede usar el asistente de programación de IA?
La respuesta es: se puede usar, ¡pero ten cuidado! Al usar asistentes de IA, los programadores siempre deben estar atentos, verificar cuidadosamente el código para evitar vulnerabilidades de seguridad.
Dirección en papel: https://arxiv.org/pdf/2211.03622
En resumen, los asistentes de programación de IA no son omnipotentes. La excesiva dependencia de los asistentes de IA puede plantear graves riesgos de seguridad, por lo que la revisión del código y la conciencia de seguridad aún son cruciales.