วิศวกรรมที่รวดเร็วเป็นวินัยที่ค่อนข้างใหม่ที่ออกแบบมาเพื่อพัฒนาและเพิ่มประสิทธิภาพการแจ้งเตือนให้ใช้แบบจำลองภาษา (LMS) อย่างมีประสิทธิภาพสำหรับแอพพลิเคชั่นและหัวข้อการวิจัยที่หลากหลาย เคล็ดลับทักษะทางวิศวกรรมช่วยให้เข้าใจฟังก์ชั่นและข้อ จำกัด ของแบบจำลองภาษาขนาดใหญ่ (LLM) ได้ดีขึ้น
วิศวกรรมที่รวดเร็วสามารถใช้เพื่อปรับปรุงความสามารถของ LLMS ในงานทั่วไปและซับซ้อนที่หลากหลายเช่นคำถามและคำตอบและการใช้เหตุผลทางคณิตศาสตร์การออกแบบที่แข็งแกร่งและมีประสิทธิภาพเทคนิคการแจ้งเตือนที่มีประสิทธิภาพซึ่งเชื่อมต่อกับ LLM และเครื่องมืออื่น ๆ
แรงผลักดันจากความสนใจสูงในการพัฒนา LLM คอลเลกชันของวัสดุคู่มือวิศวกรรมทิปนี้ถูกสร้างขึ้นซึ่งมีเอกสารล่าสุดทั้งหมดคู่มือการศึกษาการบรรยายการอ้างอิงและเครื่องมือที่เกี่ยวข้องกับวิศวกรรมเคล็ดลับ (ฉันจะอัปเดตทุกสามวันสำหรับเวลา)
เนื้อหาส่วนใหญ่ในปัจจุบันแปลจาก Dair-Ai (https://github.com/dair-ai/prompt-engineering-guide)
รวมสมุดบันทึกและสไลด์โชว์ Dair-AI
Discord ของ Dair-Ai และ Twitter ของ Dair-Ai
แพลตฟอร์ม (แนะนำ)
ต่อไปนี้เป็นคู่มือวิศวกรรมเคล็ดลับสำหรับการพัฒนา Dair-AI คู่มือ Dair-Ai อยู่ระหว่างการพัฒนา (ฉันจะอัปเดตทุกสามวันสำหรับเวลา)
นี่คือเอกสารล่าสุดเกี่ยวกับวิศวกรรมที่รวดเร็ว (เรียงตามวันที่วางจำหน่าย) เราอัปเดตเอกสารเหล่านี้ทุกวันและเพิ่มเอกสารใหม่ เราเพิ่มบทคัดย่อของเอกสารเหล่านี้ลงในคู่มือข้างต้นทุกสัปดาห์:
แบบสำรวจ/ภาพรวม:
เทคนิค/วิธีการวิธีการ/เทคนิค:
รูปแบบภาษาที่ปรับขนาดได้ในการสร้างเคล็ดลับการเรียนรู้แบบกึ่งผู้ดูแล (กุมภาพันธ์ 2023)
กำหนดขอบเขตความสามารถของแบบจำลองภาษาขนาดใหญ่ในการสร้างข้อความแบบเปิดโดยข้อ จำกัด ที่รวดเร็ว (กุมภาพันธ์ 2566)
à-la-carte prompt tuning (APT): การรวมข้อมูลที่แตกต่างผ่านเคล็ดลับการรวบรวม (กุมภาพันธ์ 2023)
GraphPrompt: การรวมการฝึกอบรมล่วงหน้าสำหรับเครือข่ายประสาทและงานดาวน์สตรีม (กุมภาพันธ์ 2566)
ความสามารถของแบบจำลองภาษาขนาดใหญ่ในการแสดงตนเองทางศีลธรรม (กุมภาพันธ์ 2566)
SwitchPrompt: เคล็ดลับอ่อนสำหรับพื้นที่ที่มีรั้วรอบขอบชิดเฉพาะสำหรับการเรียนรู้แบบลับในโดเมนทรัพยากรต่ำ (กุมภาพันธ์ 2566)
ประเมินความทนทานของตัวชี้นำที่ไม่ต่อเนื่อง (ก.พ. 2023)
ตัวอย่างการรวมกันของการเรียนรู้บริบท (ก.พ. 2023)
เคล็ดลับยากกลายเป็นเรื่องง่าย: การเพิ่มประสิทธิภาพตามการไล่ระดับสีแบบไม่ต่อเนื่องสำหรับการปรับและการค้นพบเคล็ดลับ (ก.พ. 2023)
การคิดแบบหลายรูปแบบการคิดในรูปแบบภาษา (ก.พ. 2023)
แบบจำลองภาษาขนาดใหญ่จะถูกรบกวนได้อย่างง่ายดายโดยบริบทที่ไม่เกี่ยวข้อง (ก.พ. 2023)
เคล็ดลับการสังเคราะห์: สร้างการสาธิตการคิดสำหรับแบบจำลองภาษาขนาดใหญ่ (ก.พ. 2023)
เคล็ดลับแบบก้าวหน้า: การเรียนรู้แบบจำลองภาษาอย่างต่อเนื่อง (ม.ค. 2023)
เคล็ดลับการประมวลผลแบบแบทช์: การใช้เหตุผลอย่างมีประสิทธิภาพของ LLM API (ม.ค. 2023)
ลองคิดดูอีกครั้งอย่าคิดทีละขั้นตอน! อคติและความเป็นพิษในการใช้เหตุผลเป็นศูนย์ (ธ.ค. 2022)
รัฐธรรมนูญ AI: ความไม่เป็นอันตรายจากข้อเสนอแนะ AI (ธ.ค. 2022)
เคล็ดลับต่อเนื่อง: แก้ปัญหาที่ซับซ้อน (ธ.ค. 2022)
ค้นพบพฤติกรรมแบบจำลองภาษาผ่านการประเมินผลที่เขียนโดยแบบจำลอง (ธ.ค. 2022)
เคล็ดลับโครงสร้าง: ขยายการเรียนรู้บริบทเป็น 1,000 ตัวอย่าง (ธ.ค. 2022)
PAL: รูปแบบภาษาที่ใช้โปรแกรมช่วย (พ.ย. 2022)
แบบจำลองภาษาขนาดใหญ่เป็นวิศวกรที่มีระดับมนุษย์ (พ.ย. 2022)
ละเว้นเคล็ดลับก่อนหน้า: เทคโนโลยีการโจมตีแบบจำลองภาษา (พ.ย. 2022)
ข้อความที่สร้างขึ้นด้วยเครื่อง: การศึกษาแบบจำลองภัยคุกคามและวิธีการตรวจจับที่ครอบคลุม (พ.ย. 2022)
การสอนอัลกอริทึมการใช้เหตุผลผ่านการเรียนรู้บริบท (พ.ย. 2022)
ปรับปรุงความสอดคล้องกันและประสิทธิภาพของแบบจำลองภาษาที่ผ่านการฝึกอบรมมาก่อนผ่านการอนุมานภาษาธรรมชาติ (พ.ย. 2022)
ถามอย่างไม่ตั้งใจ: กลยุทธ์ง่ายๆในการกระตุ้นแบบจำลองภาษา (ต.ค. 2022)
React: การประสานงานและการดำเนินการในรูปแบบภาษา (ต.ค. 2022)
เคล็ดลับ GPT-3 มีความน่าเชื่อถือ (ต.ค. 2022)
เคล็ดลับการสลายตัว: วิธีการแบบแยกส่วนเพื่อแก้ปัญหางานที่ซับซ้อน (ต.ค. 2022)
แบบจำลองภาษาเป็นเหตุผลโลภ: การวิเคราะห์รูปแบบอย่างเป็นระบบของลิงก์ความคิด (ต.ค. 2022)
การประเมินความไวของแบบจำลองภาษาที่ผ่านการฝึกอบรมมาก่อนผ่านตัวอย่างที่ออกแบบมาด้วยมือ (กันยายน 2565)
PromptAgator: รับการค้นหาอย่างเข้มข้นเล็กน้อยจาก 8 ตัวอย่าง (กันยายน 2022)
เหตุผลที่ขับเคลื่อนโมเดลภาษาให้ดีขึ้น (มิถุนายน 2565)
แบบจำลองภาษาขนาดใหญ่เป็นเหตุผลที่เป็นศูนย์ (พฤษภาคม 2022)
ระบบ MRKL: สถาปัตยกรรมสัญลักษณ์ประสาทแบบแยกส่วนรวมแบบจำลองภาษาขนาดใหญ่แหล่งความรู้ภายนอกและการใช้เหตุผลแบบไม่ต่อเนื่อง (พฤษภาคม 2022)
การตรวจจับความเป็นพิษโดยการสร้างพรอมต์ (พฤษภาคม 2565)
เคล็ดลับการถ่ายโอนการเรียนรู้สำหรับการสร้างข้อความ (พฤษภาคม 2022)
ความไม่น่าเชื่อถือของคำแนะนำการใช้เหตุผลเชิงข้อความที่มีจำนวนคำแนะนำเล็กน้อย (พฤษภาคม 2022)
TIPS Modifier การจำแนกประเภทสำหรับการสร้างข้อความเป็นภาพ (เมษายน 2022)
พรอมต์เชน: การเชื่อมโยงเคล็ดลับรูปแบบภาษาขนาดใหญ่ผ่านการเขียนโปรแกรมด้วยภาพ (มีนาคม 2565)
การเชื่อมโยงเชิงอุดมการณ์เพื่อการปรับปรุงแบบจำลองภาษาด้วยความสอดคล้องกัน (มีนาคม 2565)
ฝึกอบรมแบบจำลองภาษาโดยใช้คำติชมของมนุษย์เพื่อดำเนินการตามคำแนะนำ
ทบทวนบทบาทของการสาธิต: อะไรทำให้การเรียนรู้บริบทประสบความสำเร็จ? (กุมภาพันธ์ 2565)
เคล็ดลับการเชื่อมโยงความคิดเพิ่มการอนุมานสำหรับรูปแบบภาษาขนาดใหญ่ (มกราคม 2565)
แสดงผลงานของคุณ: การลงทะเบียนชั่วคราวสำหรับการคำนวณระดับกลางพร้อมรูปแบบภาษา (พฤศจิกายน 2021)
การให้เหตุผลสามัญสำนึกขึ้นอยู่กับการสร้างคำใบ้ความรู้ (ตุลาคม 2564)
การฝึกอบรมที่รวดเร็วแบบหลายงานสามารถทำได้ทั่วไปของงานการยิงแบบศูนย์ (ต.ค. 2021)
คำสั่ง refactoring พร้อมที่จะปรับให้เข้ากับภาษาของ GPTK (ก.ย. 2021)
แนวทางการออกแบบสำหรับรุ่นการสร้างข้อความเป็นภาพ (ก.ย. 2021)
ทำให้โมเดลภาษาที่ผ่านการฝึกอบรมเป็นผู้เรียนรู้ตัวอย่างน้อยกว่า (ส.ค. 2021)
มีเวทย์มนตร์และคำสั่งที่ได้รับคำสั่งและตำแหน่งของพวกเขา: เอาชนะความไวของลำดับที่รวดเร็ว (เมษายน 2564) จำนวนเล็กน้อย (เมษายน 2564)
Bertese: เรียนรู้ที่จะคุยกับเบิร์ต (เมษายน 2564)
พลังของการปรับสเกลด้วยพารามิเตอร์ที่ถูกต้อง (เมษายน 2564)
การเขียนโปรแกรมเคล็ดลับสำหรับโมเดลภาษาขนาดใหญ่: เกินกว่ากระบวนทัศน์เคล็ดลับจำนวนเล็กน้อย (ก.พ. 2021)
การสอบเทียบล่วงหน้า: ปรับปรุงประสิทธิภาพตัวอย่างขนาดเล็กของแบบจำลองภาษา (ก.พ. 2021)
การปรับคำนำหน้า: เพิ่มประสิทธิภาพการแจ้งเตือนอย่างต่อเนื่องสำหรับรุ่น (ม.ค. 2021)
Autoprompt: ความรู้แจ้งจากแบบจำลองภาษาผ่านพรอมต์ที่สร้างขึ้นโดยอัตโนมัติ (ต.ค. 2020)
แบบจำลองภาษาเป็นผู้เรียนขนาดเล็ก (พฤษภาคม 2020)
เราจะรู้ได้อย่างไรว่ารูปแบบภาษารู้อะไรบ้าง? (กรกฎาคม 2020)
แอปพลิเคชัน:
คอลเลกชัน:
หากคุณคิดว่ามีบางอย่างขาดหายไปโปรดส่ง PR ข้อเสนอแนะและข้อเสนอแนะก็ยินดีต้อนรับ