uvadlc_notebooks
1.0.0
Hinweis: Besuchen Sie unsere RTD-Website, um sich die Notizbücher in einem schöneren Format anzusehen: https://uvadlc---Notebooks.readthedocs.io/en/latest/
Kurswebsite : https://uvadlc.github.io/
Kursausgabe : Herbst 2024 (28. Oktober - 20. Dezember) - auf dem neuesten Stand gehalten
Aufnahmen : YouTube Playlist
Autor : Phillip Lippe
Für die diesjährige Kurse Edition haben wir eine Reihe von Jupyter -Notizbüchern erstellt, die Ihnen helfen sollen, die "Theorie" aus den Vorträgen zu verstehen, indem Sie entsprechende Implementierungen sehen. Wir werden verschiedene Themen wie Optimierungstechniken, Transformatoren, Grafiknetzwerke usw. besuchen (für eine vollständige Liste siehe unten). Die Notizbücher helfen Ihnen dabei, das Material zu verstehen und Ihnen Details zum Pytorch -Framework beizubringen, einschließlich Pytorch Lightning . Darüber hinaus stellen wir eins-zu-Eins-Übersetzungen der Notizbücher an JAX+Flachs als alternatives Framework an.
Die Notizbücher werden in der ersten Stunde jeder Gruppen -Tutorial -Sitzung präsentiert. Während der Tutorial -Sitzungen präsentieren wir den Inhalt und erläutern die Implementierung der Notizbücher. Sie können selbst entscheiden, ob Sie sich nur das gefüllte Notizbuch ansehen, es selbst ausprobieren oder während der praktischen Sitzung mit Code codieren möchten. Die Notizbücher sind nicht direkt Teil von obligatorischen Aufgaben, auf denen Sie bewertet oder ähnlich werden. Wir ermutigen Sie jedoch, sich mit den Notizbüchern vertraut zu machen und sie selbst zu experimentieren oder selbst zu erweitern. Darüber hinaus wird der vorgestellte Inhalt für die abgestufte Zuordnung und Prüfung relevant sein.
Die Tutorials wurden als offizielle Tutorials von Pytorch Lightning integriert. So können Sie sie auch in ihrer Dokumentation anzeigen.
Auf dieser Website finden Sie die Notizbücher, die in ein HTML -Format exportiert wurden, damit Sie sie aus dem von Ihnen bevorzugten Gerät lesen können. Wir schlagen jedoch vor, dass Sie ihnen auch versuchen, sie selbst zu laufen. Es gibt drei Hauptmethoden, um die Notizbücher auszuführen, die wir empfehlen:
Lokal auf CPU : Alle Notizbücher werden im GitHub -Repository gespeichert, das auch diese Website erstellt. Sie finden sie hier: https://github.com/phlippe/uvadlc_notebooks/tree/master/docs/tutorial_notebooks. Die Notizbücher sind so gestaltet, dass Sie sie ohne die Notwendigkeit einer GPU auf gemeinsamen Laptops ausführen können. Wir bieten vorgelätse Modelle, die beim Ausführen der Notebooks automatisch heruntergeladen werden, oder können manuell von diesem Google Drive heruntergeladen werden. Der erforderliche Speicherplatz für die vorbereiteten Modelle und Datensätze beträgt weniger als 1 GB. Um sicherzustellen, dass Sie die richtigen Python -Pakete installiert haben, bieten wir eine Conda -Umgebung im selben Repository an (wählen Sie je nach System die CPU- oder GPU -Version).
Google Colab : Wenn Sie es vorziehen, die Notebooks auf einer anderen Plattform als Ihren eigenen Computer auszuführen oder mit GPU -Unterstützung zu experimentieren möchten, empfehlen wir die Verwendung von Google Colab. Jedes Notizbuch auf dieser Dokumentations -Website verfügt über einen Abzeichen mit einem Link zum Öffnen von Google Colab. Denken Sie daran, die GPU -Unterstützung zu aktivieren, bevor Sie das Notebook ausführen ( Runtime -> Change runtime type ). Jedes Notizbuch kann unabhängig ausgeführt werden und müssen nicht Ihr Google -Laufwerk oder ähnliches verbinden. Beim Schließen der Sitzung gehen jedoch möglicherweise Änderungen verloren, wenn Sie sie nicht auf Ihrem lokalen Computer speichern oder das Notebook im Voraus auf Ihr Google -Laufwerk kopiert haben.
Snellius Cluster : Wenn Sie Ihre eigenen (größeren) neuronalen Netzwerke basierend auf den Notebooks trainieren möchten, können Sie den Snellius -Cluster verwenden. Dies wird jedoch nur vorgeschlagen, wenn Sie wirklich ein neues Modell trainieren und die beiden anderen Optionen verwenden möchten, um die Diskussion und Analyse der Modelle durchzuführen. Snellius erlaubt Ihnen möglicherweise nicht, dass Sie mit Ihrem Studentenkonto Jupyter -Notizbücher direkt auf der Partition gpu_shared ausführen können. Stattdessen können Sie zuerst die Notizbücher mit jupyter nbconvert --to script ...ipynb umwandeln und dann einen Job bei Snellius für das Ausführen des Skripts beginnen. Ein paar Ratschläge beim Laufen auf Snellius:
progress_bar_refresh_rate=0 im Trainer einstellen.plt.show() zu plt.savefig(...) . Wir werden 7 der Tutorials im Kurs diskutieren und sich über Vorträge ausbreiten, um etwas aus jedem Bereich abzudecken. Sie können die Tutorials mit den Vorträgen anhand ihrer Themen ausrichten. Die Liste der Tutorials lautet:
Dies ist das erste Mal, dass wir diese Tutorials während des Deep -Learning -Kurs präsentieren. Wie bei jedem anderen Projekt werden kleine Fehler und Probleme erwartet. Wir freuen uns über Feedback von Schülern, egal ob es um einen Rechtschreibfehler, einen Implementierungsfehler oder um Verbesserungen/Ergänzungen zu den Notizbüchern geht. Bitte verwenden Sie den folgenden Link, um Feedback einzureichen, oder wenden Sie sich an mich direkt pro E -Mail (P dot Lippe bei UVA Dot NL) oder schnappen Sie mich während einer TA -Sitzung.
Wenn Sie die Tutorials hilfreich finden und sie zitieren möchten, können Sie das folgende Bibtex verwenden:
@misc { lippe2024uvadlc ,
title = { {UvA Deep Learning Tutorials} } ,
author = { Phillip Lippe } ,
year = 2024 ,
howpublished = { url{https://uvadlc-notebooks.readthedocs.io/en/latest/} }
}
