llm prompting practices ja
2024.03.12
จากวัสดุอ้างอิงคุณภาพสูงเราได้รวบรวมเคล็ดลับอย่างง่ายดายสำหรับการสร้าง LLM (โมเดลภาษาขนาดใหญ่)
มีเพียงภาพรวมเท่านั้น โปรดดูเอกสารแต่ละฉบับสำหรับรายละเอียด
เทคนิคทางวิศวกรรมที่รวดเร็วสามารถเรียนรู้ได้ในระดับหนึ่งผ่านวัสดุที่เผยแพร่ หากคุณกำลังพิจารณาซื้อหลักสูตรสินค้าหรือจองเกี่ยวกับวิศวกรรมที่รวดเร็ว (มักจะเป็นข้อมูลเพียงเล็กน้อย) โปรดอ่านวัสดุเหล่านี้ก่อน
วิศวกรรมที่รวดเร็ว - Openai API
หกกลยุทธ์
- เขียนคำแนะนำที่ชัดเจน
- รวมรายละเอียด
- กำหนดบุคคล
- แบ่งส่วนต่าง ๆ ของคำสั่งอินพุตอย่างชัดเจน
- ระบุขั้นตอนที่จำเป็นในการทำงานให้เสร็จสมบูรณ์
- นำเสนอตัวอย่าง
- ระบุความยาวของคำตอบที่คุณต้องการ
- ระบุข้อความอ้างอิง
- สั่งให้คุณตอบกลับโดยใช้ข้อความอ้างอิง
- สั่งให้พวกเขาคลายซิปด้วยใบเสนอราคาจากข้อความอ้างอิง
- แบ่งงานที่ซับซ้อนออกเป็นงานย่อยง่ายๆ
- ระบุคำแนะนำที่เกี่ยวข้องสูงสำหรับการสืบค้นของผู้ใช้โดยใช้การจำแนกประเภทเจตนา
- สรุปหรือกรองการโต้ตอบก่อนหน้าในแอปพลิเคชันแบบโต้ตอบที่ต้องใช้การสนทนาที่ยาวมาก
- เอกสารยาวถูกสรุปในชิ้นส่วนแล้วสร้างบทสรุปโดยรวมซ้ำ
- ให้เวลากับแบบจำลองในการคิด
- บอกตัวแบบเองเพื่อหาวิธีแก้ปัญหาก่อนที่จะข้ามไปสู่ข้อสรุป
- ซ่อนกระบวนการอนุมานของโมเดลโดยใช้บทพูดด้านในและชุดของการสืบค้น
- ถามแบบจำลองว่ามีอะไรขาดหายไปจากบัตรก่อนหน้า
- ใช้เครื่องมือภายนอก
- ทำความรู้ที่มีประสิทธิภาพ Retrievel โดยใช้การค้นหาแบบฝังตัว
- ใช้การดำเนินการรหัสเพื่อทำการคำนวณที่แม่นยำยิ่งขึ้นและการโทร API ภายนอก
- ให้โมเดลเข้าถึงฟังก์ชั่นเฉพาะ
- ทดสอบการเปลี่ยนแปลงของคุณอย่างเป็นระบบ
- ประเมินผลลัพธ์ของโมเดลโดยใช้คำตอบมาตรฐานทองคำ
กลยุทธ์การออกแบบที่รวดเร็ว Google AI สำหรับนักพัฒนา
กลยุทธ์การออกแบบที่รวดเร็ว
- ให้คำแนะนำที่ชัดเจนและเฉพาะเจาะจง
- กำหนดงานที่จะดำเนินการ
- ระบุข้อ จำกัด ทั้งหมด
- กำหนดรูปแบบคำตอบของคุณ
- รวมตัวอย่างบางส่วน
- ไม่ได้-ช็อตและพรอมต์ไม่กี่นัด
- ค้นหาจำนวนตัวอย่างที่เหมาะสมที่สุด
- ตัวอย่างใช้เพื่อแสดงรูปแบบมากกว่าการต่อต้านรูปแบบ
- ตัวอย่างที่นำเสนอใช้รูปแบบที่สอดคล้องกัน
- เพิ่มข้อมูลบริบท
- เพิ่มคำนำหน้า
- คำนำหน้าอินพุต
- คำนำหน้าเอาต์พุต
- ตัวอย่างคำนำหน้า
- ให้อินพุตบางส่วนแบบจำลองเสร็จสมบูรณ์
- การแยกย่อยเป็นส่วนประกอบง่ายๆ
- แบ่งคำแนะนำ
- สร้างห่วงโซ่ของพรอมต์ (สร้างเอาต์พุตของพรอมต์ก่อนหน้าเป็นอินพุตของพรอมต์ถัดไป)
- คำตอบโดยรวม
- ลองใช้ค่าพารามิเตอร์ที่แตกต่างกัน
- โทเค็นเอาต์พุตสูงสุด
- อุณหภูมิ
- K-K
- ด้านบน P-P
- กลยุทธ์รอบการปรับปรุงที่รวดเร็ว
- ใช้วลีอื่น
- เปลี่ยนเป็นงานที่คล้ายกัน
- สั่งซื้อเนื้อหาพร้อมท์ใหม่
- การตอบกลับทางเสีย
- สิ่งที่ควรหลีกเลี่ยง
- หลีกเลี่ยงการพึ่งพาแบบจำลองเพื่อสร้างข้อมูลจริง
- ใช้คณิตศาสตร์และปัญหาตรรกะด้วยความระมัดระวัง
วิศวกรรมที่รวดเร็วสำหรับ AI ทั่วไป | การเรียนรู้ของเครื่องจักร Google สำหรับนักพัฒนา
วิศวกรรมที่รวดเร็วสำหรับการสร้าง AI
แนวทางปฏิบัติที่ดีที่สุดในการสร้างสรรค์
- สื่อสารอย่างชัดเจนว่าเนื้อหาและข้อมูลมีความสำคัญที่สุด
- โครงสร้างพรอมต์: เริ่มต้นด้วยนิยามบทบาทให้บริบทและข้อมูลอินพุตและให้คำแนะนำ
- ใช้ตัวอย่างคอนกรีตและหลากหลายเพื่อให้แบบจำลองสามารถสร้างผลลัพธ์ที่แม่นยำด้วยการโฟกัส
- ให้ข้อ จำกัด เพื่อ จำกัด ขอบเขตของผลลัพธ์ของโมเดล การทำเช่นนี้จะหลีกเลี่ยงการเบี่ยงเบนจากคำแนะนำและให้ข้อมูลที่ไม่ถูกต้อง
- งานที่ซับซ้อนถูกแบ่งออกเป็นลำดับง่าย ๆ
- สั่งให้โมเดลให้คะแนนและตรวจสอบคำตอบของตนเองก่อนที่จะสร้าง ("คำตอบควรอยู่ใน 3 ประโยค" "ให้คะแนนความกะทัดรัดของผลลัพธ์ในระดับ 1-10" "คุณคิดว่าสิ่งนี้ถูกต้องหรือไม่")
ประเภทพรอมต์
- การแจ้งเตือนโดยตรง (zero-shot)
- พร้อมกับตัวอย่าง (One-shot/ ไม่กี่ shot/ multi-shot)
- COT (ห่วงโซ่แห่งความคิด) แจ้งเตือน
- วงกลม zero-shot
- กลยุทธ์รอบการปรับปรุงที่รวดเร็ว
วิศวกรรมที่รวดเร็ว
- กำหนดงานและเกณฑ์ความสำเร็จ
- เกณฑ์ความสำเร็จที่สำคัญที่ควรพิจารณา
- ประสิทธิภาพและความแม่นยำ
- ความหน่วงแฝง
- ราคา
- สร้างกรณีทดสอบ
- สร้างพรอมต์ชั่วคราว
- ลองใช้งานพร้อมกับกรณีทดสอบ
- ปรับปรุงพรอมต์
- กลับไปที่ขั้นตอนที่ 4 และทำซ้ำการปรับปรุง
- ปล่อยพรอมขัดเงา
เริ่มต้นด้วยรุ่นที่มีความสามารถมากที่สุดและพรอมต์ยาวก่อนและเมื่อคุณมีคุณภาพเอาต์พุตที่ต้องการลองรุ่นที่เล็กกว่าหรือพรอมต์ที่สั้นกว่าสำหรับเวลาแฝงและการประหยัดต้นทุน
เทคนิควิศวกรรมที่รวดเร็ว
- บอกพวกเขาอย่างชัดเจนและโดยตรง
- ใช้ตัวอย่าง
- ให้บทบาทกับโมเดล
- การใช้แท็ก XML (เฉพาะ Claude)
- แยกพรอมต์ใหญ่
- ทำให้แบบจำลองคิดด้วยขั้นตอน
- ระบุจุดเริ่มต้นของผลลัพธ์ที่คาดหวัง
- ระบุรูปแบบผลลัพธ์
- กรุณาเขียนใหม่
- โมเดลที่มีหน้าต่างบริบทยาวใช้ประโยชน์จากมัน
คู่มือวิศวกรรมที่รวดเร็ว
การตั้งค่า LLM
ชื่อ คำอธิบาย อุณหภูมิ ระดับของการสุ่ม เพิ่มอุณหภูมิจะเพิ่มการสุ่มในขณะที่ลดลงการสุ่ม P ด้านบน P วิธีการสุ่มตัวอย่างที่เรียกว่าการสุ่มตัวอย่างนิวเคลียส P ที่สูงขึ้น P เพิ่มความหลากหลายของการตอบสนอง ความยาวสูงสุด ความยาวสูงสุดของคำตอบ หน่วยแตกต่างกันไปขึ้นอยู่กับโมเดลเช่นจำนวนโทเค็นและอักขระ หยุดลำดับ รูปแบบสตริงที่หยุดสร้างคำตอบ การลงโทษความถี่ บทลงโทษสำหรับความถี่ของการเกิดโทเค็นโดยเฉพาะ การลงโทษ บทลงโทษสำหรับความถี่ของการเกิดโทเค็นใด ๆ ส่วนประกอบที่รวดเร็ว
พิจารณาสิ่งต่อไปนี้เป็นส่วนประกอบของพรอมต์:
ชื่อ ญี่ปุ่น คำอธิบาย คำแนะนำ คำแนะนำ งานที่คุณต้องการสร้างแบบจำลอง บริบท บริบท ข้อมูลภายนอกและบริบทเพิ่มเติม ข้อมูลอินพุต ข้อมูลอินพุต อินพุตและคำถามเพื่อขอคำตอบ ตัวบ่งชี้เอาต์พุต ตัวบ่งชี้เอาต์พุต ประเภทและรูปแบบเอาต์พุต เคล็ดลับทั่วไป
- เริ่มง่ายๆและทำซ้ำการปรับปรุง
- แนะนำคำขออย่างเป็นระเบียบ
- โดยเฉพาะโดยตรง
- หลีกเลี่ยงความไม่ถูกต้อง
- "นี่คือวิธี" มากกว่า "อย่าทำอย่างนี้"
เทคนิคการสร้างที่รวดเร็ว
- การแจ้งเตือนแบบไม่มีการยิง
- การกระตุ้นไม่กี่ครั้ง
- COT (ห่วงโซ่แห่งความคิด) แจ้งเตือน
- ความมั่นคงในตนเอง
- สร้างความรู้ที่สร้างขึ้น
- การผูกมัด
- TOT (ต้นไม้แห่งความคิด)
- ผ้าขี้ริ้ว
- ศิลปะ (การใช้เหตุผลอัตโนมัติและการใช้เครื่องมือ)
- APE (วิศวกรพรอมต์อัตโนมัติ)
- PROMPT ที่ใช้งานอยู่
- การกระตุ้นทิศทางการกระตุ้น
- PAL (โมเดลภาษาโดยโปรแกรมช่วย)
- ตอบสนองต่อการกระตุ้น
- การสะท้อนกลับ
- การแจ้งเตือนภายในหลายรูปแบบ
- กราฟ
ความเสี่ยงและการใช้ในทางที่ผิด
- การแจ้งเตือนที่ไม่เป็นมิตร (การโจมตีที่รวดเร็ว)
- ฉีดทันที
- Promptre King
- Jailbreaking (Jailbreak)
- ความจริง
- อคติ
