gdc

생성 분포 제어

GDC (Generative Distributional Control)는 사전 배치 된 언어 모델 샘플에 제약을 부과하기위한 일반적인 프레임 워크입니다. 제약 조건은 지점적으로 (예 : 모든 샘플이 비 공격적이어야 함) 또는 분포 (예 : 지정된 비율의 샘플이 암컷을 언급해야 함) 일 수 있습니다.

이 repo에는 다음 세 가지 논문이 포함 된 코드가 포함되어 있습니다.

• /dpg : 제어 된 텍스트 생성에 대한 분포 접근법 (ICLR 2021)
• /cdpg : 치명적인 잊혀지지 않은 조건부 언어 모델 제어 (ICML 2022)
• /rm_vs_dm : 치명적인 잊혀지지 않은 미세 조정 언어 모델에 대한 강화 학습 및 배포에 대해 (Neurips 2022)