WAW ML 24 LLM Tutorial

有效使用LLM的技术：及时工程，检索增强生成和工具形式的简介

作者：Diaoule Diallo，Roxanne El Baff，Dominik Opitz，Oliver Bensch，PeerSchütt

通讯作者：PeerSchütt（dlr.de的Peer.schuett）

在本动手教程中，您将学习及时工程中的最新技术，如何使用检索增强发电（RAG）有效地引导大型语言模型（LLMS），以及Toolformer，这是一种最新的方法，可以从外部工具中提供信息。您将能够设置自己的本地LLM型号，并将这些技术应用于示例任务。理想情况下，您可以立即使用这些知识来应对自己的挑战，无论是在研究还是管理中。

本教程是为WAW ML 2024准备的。

教程计划：

三个教程零件中的每一个都有一个专用文件夹，并带有说明。该教程计划以四个步骤完成：

1. LM Studio＆Python设置
2. 及时的工程
3. 检索增强发电（RAG）
4. 工具形式

LM Studio设置：

我们将使用LM Studio（https://lmstudio.ai/）。我们提供一个PDF，其中包含安装指令LM_STUDIO_INSTALL_INSTRUCT.PDF，简短的LM Studio介绍，以及我们要使用的模型的解释。请阅读PDF，下载指定的LLM型号，并运行LM Studio 。对于本教程的某些部分，您可以使用Mistral API来获得更好的性能，但这是一个可选的选择。如果您想使用它，请在此处注册（https://docs.mistral.ai/getting-started/quickstart/#account-setup）。但是所有零件都可以使用LM Studio可行。

Python设置：

我们还提供了所有必要的python软件包的requirements.txt 。因此，您可以为教程创建一个Conda/Mamba环境：

 conda init powershell  # only for Windows users - requires terminal restart
conda activate 
mamba create -n waw_ml python=3.10  # mamba/conda depending on what you use
conda activate waw_ml
pip install -r requirements.txt