CALM Dialogue

Modelado de idiomas consciente del contexto para sistemas de diálogo orientados a objetivos

Código oficial para el documento "Modelado de lenguaje consciente de contexto para sistemas de diálogo orientados a objetivos"

Sitio del proyecto | arxiv

configuración

1. Crear ambiente de condición: conda create --name CALM python=3.9.7
2. Activar el entorno de conda: conda activate CALM
3. Instalación de requisitos: pip install -r requirements.txt
4. Instalar Pytorch 1.9.0: conda install pytorch==1.9.0 cudatoolkit=11.3 -c pytorch -c conda-forge
5. export PYTHONPATH="$PWD/offline_airdialogue"
6. Descargue los datos de datos procesados ​​y los puntos de control del modelo aquí. Las outputs/ carpeta contienen puntos de control para nuestro modelo principal, nuestro modelo de pretrada de tareas y nuestro bot de clientes.

Capacitación

(Nota: todas las ejecuciones de entrenamiento usan WandB de forma predeterminada, puede desactivar la sincronización de WandB en la configuración).

• cd scripts/train

• Para ejecutar la capacitación multi-GPU de datos paralelos, en cualquiera de los comandos a continuación, reemplace python <script_path> con python -m torch.distributed.launch --nproc_per_node <n_GPUs> --use_env <script_path> .

• Prueba de calma
  (Dos variantes de la función de pérdida auxiliar)

  • Script: python train_pretrain_table_agent.py
    config: config/train_pretrain_table_agent.yaml

  • Script: python train_pretrain_simplified_aux_gpt2.py
    config: config/train_pretrain_simplified_aux_gpt2.yaml

• Capacitar al bot del cliente

  • Script: python train_customer.py
    config: config/train_customer_bot.yaml

• Calma de entrenamiento
  (Dos variantes de la función de pérdida auxiliar)

  • Script: python train_real_table_agent.py
    config: config/train_real_table_agent.yaml

  • Script: python train_simplified_aux_gpt2.py
    config: config/train_simplified_aux_agent.yaml

• Estándar de entrenamiento LM

  • Script: python train_basic_agent.py
    config: config/train_basic_agent.yaml

• Capacitación del modelo de recompensa para la planificación del despliegue basada en el modelo

  • Script: python train_constraint_parser.py
    config: config/train_constraint_parser.yaml

Evaluación

• cd scripts/eval

• Evaluación simulada

  • Script: python selfplay_eval.py
    config: config/selfplay_eval.yaml
    
    
    • Se guardará un registro de resultados en la ubicación especificada por selfplay/outputs_file en la configuración. Para imprimir la tasa de éxito para la ejecución de autoplay: python compute_results.py --results_file <your_eval_outputs_file>
      
      
    • Nota: La evaluación de autoplay usará de forma predeterminada todas las GPU disponibles en su máquina. Para especificar qué GPU usar, prefijo el comando con CUDA_VISIBLE_DEVICES=<comma_seperated_list_of_gpu_indicies>

• Evaluación de calidad del idioma

  • Script: python language_quality_eval.py
    config: config/language_eval.yaml
    
    
    • Para paralelizar la evaluación en múltiples GPU, ejecute: python -m torch.distributed.launch --nproc_per_node <n_GPUs> --use_env language_quality_eval.py