WAW ML 24 LLM Tutorial

Teknik untuk menggunakan LLMS secara efektif: Pengantar Teknik Prompt, Pengambilan Generasi augmented, dan alat pahat

Penulis: Diiaule Diallo, Roxanne El Baff, Dominik Opitz, Oliver Bensch, Peer Schütt

Penulis yang sesuai: Peer Schütt (Peer.schuett di DLR.DE)

Dalam tutorial langsung ini, Anda akan mempelajari teknik terbaru dalam rekayasa cepat, cara mengarahkan model bahasa besar (LLM) secara efisien menggunakan pengambilan augmented generasi (RAG), dan alat alat, metode terbaru untuk memperkaya LLM dengan informasi dari alat eksternal. Anda akan dapat mengatur model LLM lokal Anda sendiri dan menerapkan teknik -teknik ini untuk mencicipi tugas. Idealnya, Anda dapat langsung menggunakan pengetahuan ini untuk mengatasi tantangan Anda sendiri, baik dalam penelitian atau administrasi.

Tutorial ini disiapkan untuk WAW ML 2024.

Rencanakan tutorial:

Masing -masing dari tiga bagian tutorial memiliki folder khusus dengan instruksi. Tutorial direncanakan akan diselesaikan dalam empat langkah:

1. Pengaturan LM Studio & Python
2. Teknik yang cepat
3. Retrieval Augmented Generation (RAG)
4. Alat alat

Pengaturan LM Studio:

Kami akan menggunakan LM Studio (https://lmstudio.ai/). Kami memberikan PDF dengan instruksi instalasi LM_STUDIO_INSTALL_INSTRUCT.pdf, pengantar singkat untuk LM Studio, dan penjelasan model yang ingin kami gunakan. Silakan baca PDF, unduh model LLM yang ditentukan dan minta LM Studio UP and Running . Untuk beberapa bagian dari tutorial Anda dapat menggunakan API Mistral untuk mendapatkan kinerja yang lebih baik, tetapi ini adalah pilihan opsional. Jika Anda ingin menggunakannya, daftar di sini (https://docs.mistral.ai/getting-started/quickstart/#account-setup). Tetapi semua bagian bisa dilakukan dengan LM Studio.

Pengaturan Python:

Kami juga memberikan requirements.txt dengan semua paket Python yang diperlukan. Dengan itu, Anda dapat membuat lingkungan Conda/Mamba untuk tutorial:

 conda init powershell  # only for Windows users - requires terminal restart
conda activate 
mamba create -n waw_ml python=3.10  # mamba/conda depending on what you use
conda activate waw_ml
pip install -r requirements.txt