gdc

生成分佈控制

生成分佈控制（GDC）是對驗證語言模型樣本施加約束的一般框架。這些約束可以是刻度的（例如所有樣本必須是非侵入性的），也可以是分佈（例如，指定的樣本百分比必須提及女性）。

此存儲庫包含以下三篇論文的代碼：

• /dpg ：一種控製文本生成的分佈方法（ICLR 2021）
• /cdpg ：控制條件語言模型而沒有災難性遺忘（ICML 2022）
• /rm_vs_dm ：關於輔助學習和分配匹配的微調語言模型，沒有災難性遺忘（Neurips 2022）