注:ノートブックをより良い形式で見るには、RTDのWebサイト(https://uvadlc-notebooks.readthedocs.io/en/latest/にアクセスしてください。
コースのウェブサイト:https://uvadlc.github.io/
コース版:2024年秋(10月28日 - 12月20日) - 最新の状態に保たれています
録音:YouTubeプレイリスト
著者:フィリップ・リッペ
今年のコースエディションでは、対応する実装を見ることで講義から「理論」を理解するのに役立つように設計された一連のJupyterノートブックを作成しました。最適化技術、変圧器、グラフニューラルネットワークなど、さまざまなトピックにアクセスします(完全なリストについては、以下を参照)。ノートブックは、素材を理解し、 Pytorch Lightningを含むPytorchフレームワークの詳細を教えるのに役立ちます。さらに、代替フレームワークとしてJax+Flaxへのノートブックの1対1の翻訳を提供します。
ノートブックは、すべてのグループチュートリアルセッションの最初の1時間で表示されます。チュートリアルセッション中に、コンテンツを提示し、ノートブックの実装を説明します。記入済みのノートを見たいだけなのか、自分で試してみたい、または実際のセッション中にコードしたいかどうかを自分で決めることができます。ノートブックは、採点または同様に採点される必須の割り当ての一部ではありません。ただし、ノートブックに精通して実験するか、自分で拡張することをお勧めします。さらに、提示されたコンテンツは、段階的な割り当てと試験に関連します。
チュートリアルは、Pytorch Lightningの公式チュートリアルとして統合されています。したがって、ドキュメントで表示することもできます。
このWebサイトでは、ノートブックがHTML形式にエクスポートされているため、好きなデバイスから読み取ることができます。ただし、自分で試して実行することもお勧めします。お勧めするノートブックを実行する主な方法は3つあります。
CPU上のローカル:すべてのノートブックは、このWebサイトも構築するGitHubリポジトリに保存されています。 https://github.com/phlippe/uvadlc_notebooks/tree/master/docs/tutorial_notebooksで見つけることができます。ノートブックは、GPUを必要とせずに一般的なラップトップで実行できるように設計されています。ノートブックを実行するときに自動的にダウンロードされるか、このGoogleドライブから手動でダウンロードできる前のモデルを提供します。事前に保護されたモデルとデータセットに必要なディスクスペースは1GB未満です。適切なPythonパッケージをすべてインストールしていることを確認するために、同じリポジトリにConda環境を提供します(システムに応じてCPUまたはGPUバージョンを選択します)。
Google Colab :自分のコンピューターとは異なるプラットフォームでノートブックを実行したい場合、またはGPUサポートを試したい場合は、Google Colabを使用することをお勧めします。このドキュメントWebサイトの各ノートブックには、Google Colabで開くリンクを備えたバッジがあります。ノートブックを実行する前に、GPUサポートを有効にすることを忘れないでください( Runtime -> Change runtime type )。各ノートブックは独立して実行でき、Googleドライブなどを接続する必要はありません。ただし、セッションを閉じると、ローカルコンピューターに保存しない場合、または事前にノートブックをGoogleドライブにコピーした場合、変更が失われる可能性があります。
Snelliusクラスター:ノートブックに基づいて独自の(より大きな)ニューラルネットワークをトレーニングしたい場合は、Snelliusクラスターを利用できます。ただし、これは、新しいモデルを実際にトレーニングし、他の2つのオプションを使用してモデルのディスカッションと分析を行う場合にのみ提案されます。 Snelliusは、学生アカウントを使用してGPU_SharedパーティションでJupyterノートブックを直接実行することを許可しない場合があります。代わりに、 jupyter nbconvert --to script ...ipynbを使用して、まずノートブックをスクリプトに変換し、次にスクリプトを実行するためにSnelliusでジョブを開始できます。 Snelliusで実行するときのいくつかのアドバイス:
progress_bar_refresh_rate=0設定することでこれを行うことができます。plt.show()にplt.savefig(...)にコメントしてください。 コースの7つのチュートリアルについて説明し、すべての地域の何かをカバーするために講義全体に広がっています。チュートリアルをトピックに基づいて講義に合わせることができます。チュートリアルのリストは次のとおりです。
ディープラーニングコースでこれらのチュートリアルを提示するのはこれが初めてです。他のプロジェクトと同様に、小さなバグや問題が予想されます。スペルミス、実装バグ、またはノートブックへの改善/追加の提案についてであっても、学生からのフィードバックに感謝します。次のリンクを使用してフィードバックを送信するか、メールごとに直接連絡してください(UVA Dot NLのP Dot Lippe)、またはTAセッション中に私をつかんでください。
チュートリアルが役立ち、それらを引用したい場合は、次のbibtexを使用できます。
@misc { lippe2024uvadlc ,
title = { {UvA Deep Learning Tutorials} } ,
author = { Phillip Lippe } ,
year = 2024 ,
howpublished = { url{https://uvadlc-notebooks.readthedocs.io/en/latest/} }
}