uvadlc_notebooks
1.0.0
Nota: Para mirar los cuadernos en un formato más agradable, visite nuestro sitio web de RTD: https://uvadlc-notebooks.readthedocs.io/en/latest/
Sitio web del curso : https://uvadlc.github.io/
Edición del curso : Otoño 2024 (28 de octubre - 20 de diciembre) - Estar actualizado
Grabaciones : lista de reproducción de YouTube
Autor : Phillip Lipppe
Para la edición del curso de este año, creamos una serie de cuadernos Jupyter que están diseñados para ayudarlo a comprender la "teoría" de las conferencias al ver las implementaciones correspondientes. Visitaremos varios temas, como técnicas de optimización, transformadores, redes neuronales gráficas y más (para una lista completa, ver a continuación). Los cuadernos están ahí para ayudarlo a comprender el material y enseñarle detalles del marco de Pytorch , incluido Pytorch Lightning . Además, proporcionamos traducciones uno a uno de los cuadernos a Jax+Flax como marco alternativo.
Los cuadernos se presentan en la primera hora de cada sesión de tutorial grupal. Durante las sesiones tutoriales, presentaremos el contenido y explicaremos la implementación de los cuadernos. Puede decidir si solo desea mirar el cuaderno lleno, quiere probarlo usted mismo o codificar durante la sesión práctica. Los cuadernos no son directamente parte de ninguna tarea obligatoria en las que se le clasificaría o de manera similar. Sin embargo, lo alentamos a que se familiarice con los cuadernos y los experimente o los extienda usted mismo. Además, el contenido presentado será relevante para la asignación y el examen graduados.
Los tutoriales se han integrado como tutoriales oficiales de Pytorch Lightning. Por lo tanto, también puede verlos en su documentación.
En este sitio web, encontrará los cuadernos exportados en un formato HTML para que pueda leerlos desde cualquier dispositivo que prefiera. Sin embargo, le sugerimos que también les pruebe y los ejecute usted mismo. Hay tres formas principales de ejecutar los cuadernos que recomendamos:
Localmente en CPU : todos los cuadernos se almacenan en el repositorio de GitHub que también construye este sitio web. Puede encontrarlos aquí: https://github.com/phlippe/uvadlc_notebooks/tree/master/docs/tutorial_notebooks. Los cuadernos están diseñados para que pueda ejecutarlos en computadoras portátiles comunes sin la necesidad de una GPU. Proporcionamos modelos previos a la aparición que se descargan automáticamente al ejecutar los cuadernos, o se pueden descargar manualmente de esta unidad de Google. El espacio de disco requerido para los modelos y conjuntos de datos previos a la aparición es inferior a 1 GB. Para asegurarnos de tener todos los paquetes de Python correctos instalados, proporcionamos un entorno de condena en el mismo repositorio (elija la versión CPU o GPU dependiendo de su sistema).
Google Colab : Si prefiere ejecutar los cuadernos en una plataforma diferente a la de su propia computadora, o desea experimentar con el soporte de GPU, recomendamos usar Google Colab. Cada cuaderno en este sitio web de documentación tiene una insignia con un enlace para abrirlo en Google Colab. Recuerde habilitar el soporte de GPU antes de ejecutar el cuaderno ( Runtime -> Change runtime type ). Cada cuaderno se puede ejecutar de forma independiente y no requiere que conecte su unidad de Google o similar. Sin embargo, al cerrar la sesión, los cambios pueden perderse si no lo guarda en su computadora local o ha copiado el cuaderno a su Google Drive de antemano.
Snellius Cluster : si desea entrenar sus propias redes neuronales (más grandes) basadas en los cuadernos, puede hacer uso del clúster Snellius. Sin embargo, esto solo se sugiere si realmente desea entrenar un nuevo modelo y usar las otras dos opciones para pasar por la discusión y el análisis de los modelos. Es posible que Snellius no le permita con su cuenta de estudiante ejecutar los cuadernos Jupyter directamente en la partición GPU_Shared. En su lugar, primero puede convertir los cuadernos en un script usando jupyter nbconvert --to script ...ipynb , y luego comenzar un trabajo en Snellius para ejecutar el script. Algunos consejos cuando se ejecutan en Snellius:
progress_bar_refresh_rate=0 en el entrenador.plt.show() a plt.savefig(...) . Discutiremos 7 de los tutoriales en el curso, repartidos a través de las conferencias para cubrir algo de cada área. Puede alinear los tutoriales con las conferencias basadas en sus temas. La lista de tutoriales es:
Esta es la primera vez que presentamos estos tutoriales durante el curso de aprendizaje profundo. Como con cualquier otro proyecto, se esperan pequeños errores y problemas. Apreciamos cualquier comentario de los estudiantes, ya sea sobre un error de ortografía, error de implementación o sugerencias para mejoras/adiciones a los cuadernos. Utilice el siguiente enlace para enviar comentarios, o no dude en comunicarse directamente por correo (P Dot Lippe en UVA DOT NL), o tomarme durante cualquier sesión de TA.
Si encuentra útiles los tutoriales y desea citarlos, puede usar el siguiente bibtex:
@misc { lippe2024uvadlc ,
title = { {UvA Deep Learning Tutorials} } ,
author = { Phillip Lippe } ,
year = 2024 ,
howpublished = { url{https://uvadlc-notebooks.readthedocs.io/en/latest/} }
}
