UNESCO lanzó recientemente una nueva guía sobre el uso de herramientas de inteligencia artificial en las escuelas, pidiendo a los gobiernos que impongan restricciones de edad estrictas, especialmente para los niños mayores. Este movimiento es una respuesta directa a los problemas éticos y de seguridad que surgen de la creciente popularidad de la inteligencia artificial en el campo de la educación. Con el uso generalizado de la tecnología de inteligencia artificial en la educación, las preocupaciones crecientes se centran en el impacto que estas herramientas pueden tener en la salud psicológica y emocional de los niños.
La directora general de la UNESCO, Audrey Azoulay, enfatizó que, aunque las herramientas de inteligencia artificiales generativas como ChatGPT muestran un gran potencial en la educación, sus riesgos potenciales no pueden ser ignorados. Señaló que estas herramientas pueden hacer que los niños sean vulnerables a la manipulación e incluso afecten su desarrollo emocional. Por lo tanto, es necesario garantizar que estas tecnologías puedan integrarse de manera segura y responsable en el sistema educativo a través de la participación pública y la regulación del gobierno efectivo.
Las herramientas generativas de inteligencia artificial, como ChatGPT, pueden generar artículos, poemas y conversaciones basadas en consejos cortos, y estas características tienen una amplia gama de perspectivas de aplicaciones en educación. Sin embargo, con la popularidad de estas herramientas, cómo garantizar que su uso en la educación cumpla con los estándares éticos se haya convertido en un problema urgente. La Guía de la UNESCO es abordar este desafío y pedir a los gobiernos que desarrollen regulaciones claras para garantizar que el uso de herramientas de inteligencia artificial no afecte negativamente la salud y el desarrollo de los niños.
La guía de la UNESCO también destaca la importancia de la participación pública. Azulai señaló que solo con una amplia participación pública podemos asegurarnos de que el uso de herramientas de inteligencia artificial esté en línea con los valores sociales y los estándares éticos. Pidió a los gobiernos que fortalezcan la comunicación con el público para garantizar que la aplicación de la inteligencia artificial en la educación pueda recibir un apoyo generalizado de la sociedad.
Además, las pautas recomiendan que los gobiernos fortalezcan la supervisión de las herramientas de IA para garantizar que su uso no viole los derechos de privacidad de los niños o conduzca a otras formas de abuso. Al desarrollar regulaciones estrictas y medidas regulatorias, los gobiernos pueden garantizar que la aplicación de herramientas de inteligencia artificial en la educación pueda beneficiar realmente a los estudiantes en lugar de plantear riesgos potenciales.
Esta llamada de la UNESCO refleja el creciente enfoque global en la aplicación de la inteligencia artificial en la educación. Con el desarrollo continuo de la tecnología, cómo equilibrar la innovación y la seguridad en la educación se ha convertido en un problema global. Al implementar restricciones de edad estrictas y el fortalecimiento de la regulación, los gobiernos pueden garantizar que la aplicación de herramientas de inteligencia artificial en la educación pueda promover realmente el desarrollo general de los estudiantes en lugar de traer riesgos potenciales.
En resumen, esta guía de la UNESCO proporciona una orientación importante para que los gobiernos usen herramientas de inteligencia artificial en la educación. Al implementar restricciones de edad estrictas y fortalecer la regulación, los gobiernos pueden garantizar que la aplicación de herramientas de IA en la educación realmente pueda beneficiar a los estudiantes en lugar de plantear riesgos potenciales. Esta no es solo una respuesta al desarrollo tecnológico, sino también una actitud responsable hacia la salud y el desarrollo de los niños.