build your own gpt

建立自己的GPT

该存储库包含2024 AMLD研讨会的实时编码部分，“在生成AI的最前沿 - 揭开GPT的秘密并建立自己的模型”。您可以在这里找到随附的幻灯片。

如研讨会期间所述，整个项目的灵感来自Andrej Karpathy的优秀零对英雄课程的启发。

项目结构

在notebooks电脑目录下，您可以找到实时编码笔记本， build_your_own_gpt.ipynb和工作demo_text_generation.ipynb 。

在src目录下，您会发现从实时编码笔记本中提取并在演示中使用的一些功能和类。

实时编码过程中生成的数据和模型均在各个目录下版本，以使演示立即可用。

在本地环境中设置项目

项目依赖项在pyproject.toml文件中指定，可以使用诗歌软件包管理器安装。

要使用诗歌安装依赖关系，您首先需要确保在系统上安装诗歌。如果不是这样，您可以在终端中使用以下命令安装它： curl -sSL https://install.python-poetry.org | python3 -

安装诗歌后，导航到pyproject.toml文件所在的项目目录。然后，您可以使用以下命令安装依赖项： poetry install --no-root

要运行笔记本，您可以使用Jupyter Lab。如果您使用诗歌安装了项目依赖项，则可以使用以下命令从虚拟环境中运行Jupyter Lab： poetry run jupyter lab

Google Colab上的项目设置

另外，您可以在Google COLAB上的Google COLAB上打开并运行实时编码笔记本build_your_own_gpt.ipynb ：