CALM Dialogue

Modélisation du langage compatible pour le contexte pour les systèmes de dialogue orientés vers les objectifs

Code officiel pour l'article "Modélisation du langage contextuel pour les systèmes de dialogue orientés vers les objectifs"

site du projet | arxiv

installation

1. Créer un environnement conda: conda create --name CALM python=3.9.7
2. Activer l'environnement conda: conda activate CALM
3. Installation des exigences: pip install -r requirements.txt
4. Installer Pytorch 1.9.0: conda install pytorch==1.9.0 cudatoolkit=11.3 -c pytorch -c conda-forge
5. export PYTHONPATH="$PWD/offline_airdialogue"
6. Téléchargez ici les données traitées et les points de contrôle du modèle. Le outputs/ dossier contient des points de contrôle pour notre modèle principal, notre modèle de tâche pré-entraîné et notre bot client.

Entraînement

(Remarque: toutes les exécutions de formation utilisent WandB par défaut, vous pouvez désactiver la synchronisation Wandb dans la configuration.)

• cd scripts/train

• Pour exécuter une formation multi-GPU de données parallèle, sur l'une des commandes ci-dessous, remplacez python <script_path> par python -m torch.distributed.launch --nproc_per_node <n_GPUs> --use_env <script_path> .

• Pré-entraîneur calme
  (Deux variantes de la fonction de perte auxiliaire)

  • Script: python train_pretrain_table_agent.py
    Config: config/train_pretrain_table_agent.yaml

  • Script: python train_pretrain_simplified_aux_gpt2.py
    Config: config/train_pretrain_simplified_aux_gpt2.yaml

• Formation du bot client

  • Script: python train_customer.py
    config: config/train_customer_bot.yaml

• Entraînement de formation calme
  (Deux variantes de la fonction de perte auxiliaire)

  • Script: python train_real_table_agent.py
    Config: config/train_real_table_agent.yaml

  • Script: python train_simplified_aux_gpt2.py
    Config: config/train_simplified_aux_agent.yaml

• Formation standard LM

  • Script: python train_basic_agent.py
    config: config/train_basic_agent.yaml

• Formation du modèle de récompense pour la planification de déploiement basée sur le modèle

  • Script: python train_constraint_parser.py
    config: config/train_constraint_parser.yaml

Évaluation

• cd scripts/eval

• Évaluation simulée

  • script: python selfplay_eval.py
    config: config/selfplay_eval.yaml
    
    
    • Un journal des résultats sera enregistré à l'emplacement spécifié par selfplay/outputs_file dans la configuration. Pour imprimer le taux de réussite de la course d'auto-jeu: python compute_results.py --results_file <your_eval_outputs_file>
      
      
    • Remarque: L'évaluation d'auto-jeu utilisera par défaut tous les GPU disponibles sur votre machine. Pour spécifier les GPU à utiliser, préfixez la commande avec CUDA_VISIBLE_DEVICES=<comma_seperated_list_of_gpu_indicies>

• Évaluation de la qualité du langage

  • Script: python language_quality_eval.py
    config: config/language_eval.yaml
    
    
    • Pour paralléliser l'évaluation sur plusieurs-gpus, exécutez: python -m torch.distributed.launch --nproc_per_node <n_GPUs> --use_env language_quality_eval.py