llm reasoning tutorial

Penalaran dengan model bahasa (besar)

---

Presentasi

• Tutorial BHI 2023 (Okt 2023)

• Tutorial ACL 2023 (Juli 2023)

Tldr

• Tema sentral dari kedua tutorial ini adalah seperangkat teknik utama untuk mendorong model bahasa besar. Menggabungkan teknik -teknik ini menangkap banyak karya terbaru tentang mendorong LLMS.

---

---

Notebook

• Model Bahasa: Gambaran Umum Model Bahasa, fokus pada arsitektur dan operasi GPT-2. Berisi demonstrasi interaktif tentang bagaimana model -model ini memperkirakan probabilitas urutan kata, memprediksi token berikutnya, dan menghasilkan teks yang koheren.

• Dasar-Dasar Mendorong: Menunjukkan beberapa tendangan dan nol-tembakan. Memanfaatkan API OpenAI, memungkinkan bermain dengan parameter seperti suhu, token berhenti, dan token maksimum, mengamati dampaknya pada output model bahasa.

• Minta teknik-teknik utama: Menunjukkan alur kerja yang khas untuk memicu model bahasa, termasuk memilih antara petunjuk (petunjuk langsung dan rantai-dipikirkan) dan output penguraian untuk evaluasi. Ini juga mencakup demonstrasi dorongan yang dibantu memory , di mana prompt diperbarui dengan teks yang dihasilkan pada setiap langkah.

Sumber daya lainnya

• Blog saya tentang mendorong model bahasa besar, digunakan untuk tutorial di seminar CMU LTI tentang model bahasa besar (April 2023). Di blog, saya menggambar analogi antara LLMS sebagai kompiler stokastik dan diminta sebagai bahasa tingkat tinggi untuk menentukan tugas.