WAW ML 24 LLM Tutorial

有效使用LLM的技術：及時工程，檢索增強生成和工具形式的簡介

作者：Diaoule Diallo，Roxanne El Baff，Dominik Opitz，Oliver Bensch，PeerSchütt

通訊作者：PeerSchütt（dlr.de的Peer.schuett）

在本動手教程中，您將學習及時工程中的最新技術，如何使用檢索增強發電（RAG）有效地引導大型語言模型（LLMS），以及Toolformer，這是一種最新的方法，可以從外部工具中提供信息。您將能夠設置自己的本地LLM型號，並將這些技術應用於示例任務。理想情況下，您可以立即使用這些知識來應對自己的挑戰，無論是在研究還是管理中。

本教程是為WAW ML 2024準備的。

教程計劃：

三個教程零件中的每一個都有一個專用文件夾，並帶有說明。該教程計劃以四個步驟完成：

1. LM Studio＆Python設置
2. 及時的工程
3. 檢索增強發電（RAG）
4. 工具形式

LM Studio設置：

我們將使用LM Studio（https://lmstudio.ai/）。我們提供一個PDF，其中包含安裝指令LM_STUDIO_INSTALL_INSTRUCT.PDF，簡短的LM Studio介紹，以及我們要使用的模型的解釋。請閱讀PDF，下載指定的LLM型號，並運行LM Studio 。對於本教程的某些部分，您可以使用Mistral API來獲得更好的性能，但這是一個可選的選擇。如果您想使用它，請在此處註冊（https://docs.mistral.ai/getting-started/quickstart/#account-setup）。但是所有零件都可以使用LM Studio可行。

Python設置：

我們還提供了所有必要的python軟件包的requirements.txt 。因此，您可以為教程創建一個Conda/Mamba環境：

 conda init powershell  # only for Windows users - requires terminal restart
conda activate 
mamba create -n waw_ml python=3.10  # mamba/conda depending on what you use
conda activate waw_ml
pip install -r requirements.txt