Примечание. Чтобы посмотреть записные книжки в более хорошем формате, посетите наш веб-сайт RTD: https://uvadlc-notebooks.readthedocs.io/en/latest/
Веб -сайт курса : https://uvadlc.github.io/
Издание курса : осень 2024 г. (28 октября - 20 декабря) -
Записи : плейлист YouTube
Автор : Филипп Липп
Для выпуска курса этого года мы создали серию ноутбуков Jupyter, которые предназначены для того, чтобы помочь вам понять «теорию» из лекций, увидев соответствующие реализации. Мы посетим различные темы, такие как методы оптимизации, трансформаторы, нейронные сети графиков и многое другое (для полного списка, см. Ниже). Записные книжки есть, чтобы помочь вам понять материал и научить вас деталям рамки Pytorch , включая Pytorch Lightning . Кроме того, мы предоставляем индивидуальные переводы ноутбуков JAX+FLAX в качестве альтернативной структуры.
Записные книжки представлены в первый час каждой учебной сессии группы. Во время учебных сессий мы представим контент и объясним реализацию ноутбуков. Вы можете решить себя, хотите ли вы просто посмотреть на заполненную ноутбук, хотите попробовать его самостоятельно или кодировать во время практической сессии. Записные книжки не являются непосредственно частью каких -либо обязательных заданий, на которых вы будете оцениваться или аналогично. Тем не менее, мы призываем вас ознакомиться с ноутбуками и экспериментировать или расширить их самостоятельно. Кроме того, представленное содержание будет иметь отношение к оценке и экзамену.
Учебные пособия были интегрированы как официальные учебники Pytorch Lightning. Таким образом, вы также можете просмотреть их в их документации.
На этом веб -сайте вы найдете ноутбуки, экспортируемые в формат HTML, чтобы вы могли прочитать их с любого устройства, которое вы предпочитаете. Тем не менее, мы предлагаем вам также попробовать их самостоятельно. Есть три основных способа запуска ноутбуков, которые мы рекомендуем:
Локально на процессоре : все ноутбуки хранятся в репозитории GitHub, который также создает этот веб -сайт. Вы можете найти их здесь: https://github.com/phlippe/uvadlc_notebooks/tree/master/docs/tutorial_notebooks. Ноутбуки разработаны таким образом, чтобы вы могли выполнять их на общих ноутбуках без необходимости графического процессора. Мы предоставляем предварительные модели, которые автоматически загружаются при запуске ноутбуков, или можно вручную загружаться с этого диска Google. Требуемое дисковое пространство для предварительных моделей и наборов данных составляет менее 1 ГБ. Чтобы убедиться, что у вас установлены все правильные пакеты Python, мы предоставляем среду Conda в одном и том же хранилище (выберите версию процессора или графического процессора в зависимости от вашей системы).
Google Colab : Если вы предпочитаете запускать ноутбуки на другой платформе, чем ваш собственный компьютер, или хотите экспериментировать с поддержкой GPU, мы рекомендуем использовать Google Colab. В каждом ноутбуке на этом веб -сайте документации есть значок со ссылкой, чтобы открыть его в Google Colab. Не забудьте включить поддержку графического процессора перед запуском ноутбука ( Runtime -> Change runtime type ). Каждая ноутбука может быть выполнена независимо и не требует, чтобы вы подключали свой диск Google или аналогичный. Однако при закрытии сеанса изменения могут быть потеряны, если вы не сохраните его на локальном компьютере или заранее скопировали ноутбук на свой драйв Google.
Cluster Snellius : Если вы хотите обучить свои собственные (более крупные) нейронные сети на основе ноутбуков, вы можете использовать кластер Snellius. Тем не менее, это предлагается только в том случае, если вы действительно хотите обучить новую модель, и использовать два других варианта, чтобы пройти обсуждение и анализ моделей. Snellius может не позволить вам с вашей учетной записью студента запускать ноутбуки Jupyter непосредственно в разделе GPU_SHARED. Вместо этого вы можете сначала преобразовать ноутбуки в сценарий, используя jupyter nbconvert --to script ...ipynb , а затем начать работу на Snellius для запуска сценария. Несколько советов при работе на Снеллиусе:
progress_bar_refresh_rate=0 в тренере.plt.show() на plt.savefig(...) . Мы обсудим 7 учебных пособий на курсе, распространившись по лекциям, чтобы покрыть что -то из каждой области. Вы можете согласовать учебники с лекциями на основе их тем. Список учебников:
Это первый раз, когда мы представляем эти учебники во время курса глубокого обучения. Как и в любом другом проекте, ожидаются небольшие ошибки и проблемы. Мы ценим любые отзывы студентов, будь то о орфографической ошибке, ошибке реализации или предложениях для улучшений/дополнений к ноутбукам. Пожалуйста, используйте следующую ссылку, чтобы отправить обратную связь, или не стесняйтесь обратиться ко мне напрямую по почте (P Dot Lippe в UVA Dot NL) или захватить меня во время любого сеанса TA.
Если вы найдете учебники полезными и хотели бы их привести, вы можете использовать следующий Bibtex:
@misc { lippe2024uvadlc ,
title = { {UvA Deep Learning Tutorials} } ,
author = { Phillip Lippe } ,
year = 2024 ,
howpublished = { url{https://uvadlc-notebooks.readthedocs.io/en/latest/} }
}