gdc

การควบคุมการกระจายแบบกำเนิด

Generative Distributional Control (GDC) เป็นกรอบทั่วไปสำหรับการกำหนดข้อ จำกัด เกี่ยวกับตัวอย่างของแบบจำลองภาษาที่ผ่านการฝึกอบรม ข้อ จำกัด สามารถเป็นไปได้ทั้งแบบ pointwise (เช่นตัวอย่างทั้งหมดจะต้องไม่เป็นอันตราย) หรือการกระจาย (เช่นเปอร์เซ็นต์ที่ระบุของตัวอย่างจะต้องพูดถึงผู้หญิง)

repo นี้มีรหัสที่มาพร้อมกับเอกสารสามฉบับต่อไปนี้:

• /dpg : วิธีการกระจายไปสู่การสร้างข้อความที่ควบคุม (ICLR 2021)
• /cdpg : การควบคุมแบบจำลองภาษาแบบมีเงื่อนไขโดยไม่ต้องลืมหายนะ (ICML 2022)
• /rm_vs_dm : ในการเรียนรู้การเสริมแรงและการแจกจ่ายการแจกจ่ายสำหรับแบบจำลองภาษาที่ปรับแต่งโดยไม่มีการลืมหายนะ (Neurips 2022)