llm reasoning tutorial

การให้เหตุผลกับแบบจำลองภาษา (ขนาดใหญ่)

---

การนำเสนอ

• BHI 2023 บทช่วยสอน (ต.ค. 2023)

• ACL 2023 บทช่วยสอน (กรกฎาคม 2023)

tldr

• ชุดรูปแบบหลักของบทเรียนทั้งสองนี้เป็นชุดของเทคนิคสำคัญสำหรับการแจ้งให้โมเดลภาษาขนาดใหญ่ การรวมเทคนิคเหล่านี้รวบรวมผลงานล่าสุดจำนวนมากในการกระตุ้น LLM

---

---

สมุดบันทึก

• แบบจำลองภาษา: ภาพรวมของแบบจำลองภาษาโดยเน้นไปที่สถาปัตยกรรมและการทำงานของ GPT-2 มีการสาธิตแบบโต้ตอบว่าแบบจำลองเหล่านี้ประเมินความน่าจะเป็นของลำดับคำทำนายโทเค็นถัดไปและสร้างข้อความที่สอดคล้องกันอย่างไร

• การแจ้งเตือนพื้นฐาน: แสดงให้เห็นถึงการกระตุ้นด้วยการยิงไม่กี่ครั้ง การใช้ OpenAI API อนุญาตให้เล่นกับพารามิเตอร์เช่นอุณหภูมิโทเค็นหยุดและโทเค็นสูงสุดสังเกตผลกระทบของพวกเขาต่อผลลัพธ์ของโมเดลภาษา

• การแจ้งให้เทคนิคสำคัญ: แสดงเวิร์กโฟลว์ทั่วไปสำหรับการกระตุ้นแบบจำลองภาษารวมถึงการเลือกระหว่างพรอมต์ (การแจ้งโดยตรงและความคิดที่ผ่านการแยกแยะ) และการแยกวิเคราะห์ผลลัพธ์สำหรับการประเมินผล นอกจากนี้ยังรวมถึงการสาธิตการแจ้งเตือนหน่วย memory ที่ช่วยโดยที่พรอมต์จะได้รับการอัปเดตด้วยข้อความที่สร้างขึ้นในแต่ละขั้นตอน

ทรัพยากรอื่น ๆ

• บล็อกของฉันเกี่ยวกับการกระตุ้นให้โมเดลภาษาขนาดใหญ่ใช้สำหรับการสอนในการสัมมนา CMU LTI ในรูปแบบภาษาขนาดใหญ่ (เมษายน 2023) ในบล็อกฉันวาดการเปรียบเทียบระหว่าง LLMS เป็นคอมไพเลอร์สุ่มและกระตุ้นให้เป็นภาษาระดับสูงสำหรับการระบุงาน