gdc

Kontrol distribusi generatif

Generative Distributional Control (GDC) adalah kerangka kerja umum untuk memaksakan kendala pada sampel model bahasa pretrained. Kendala dapat berupa pointwise (misalnya semua sampel harus tidak ofensif) atau distribusi (misalnya persentase sampel yang ditentukan harus menyebutkan wanita).

Repo ini berisi kode yang menyertai tiga makalah berikut:

• /dpg : Pendekatan distribusi untuk pembuatan teks terkontrol (ICLR 2021)
• /cdpg : Mengontrol model bahasa bersyarat tanpa lupa bencana (ICML 2022)
• /rm_vs_dm : Pada pembelajaran penguatan dan pencocokan distribusi untuk model bahasa yang menyempurnakan tanpa lupa bencana (Neurips 2022)