gdc

生成分布控制

生成分布控制（GDC）是对验证语言模型样本施加约束的一般框架。这些约束可以是刻度的（例如所有样本必须是非侵入性的），也可以是分布（例如，指定的样本百分比必须提及女性）。

此存储库包含以下三篇论文的代码：

• /dpg ：一种控制文本生成的分布方法（ICLR 2021）
• /cdpg ：控制条件语言模型而没有灾难性遗忘（ICML 2022）
• /rm_vs_dm ：关于辅助学习和分配匹配的微调语言模型，没有灾难性遗忘（Neurips 2022）