CALM Dialogue

Modelagem de idiomas com conhecimento de contexto para sistemas de diálogo orientados a objetivos

Código oficial para o artigo "Modelagem de idiomas com conhecimento de contexto para sistemas de diálogo orientados a objetivos"

Site do projeto | arxiv

configurar

1. Crie o ambiente do CONDA: conda create --name CALM python=3.9.7
2. Ative o ambiente do CONDA: conda activate CALM
3. Requisitos de instalação: pip install -r requirements.txt
4. Instale Pytorch 1.9.0: conda install pytorch==1.9.0 cudatoolkit=11.3 -c pytorch -c conda-forge
5. export PYTHONPATH="$PWD/offline_airdialogue"
6. Faça o download dos dados processados ​​e dos pontos de verificação do modelo aqui. As outputs/ pasta contém pontos de verificação para o nosso modelo principal, nosso modelo pré -traçado de tarefas e nosso bot de cliente.

Treinamento

(Nota: todas as execuções de treinamento usam Wandb por padrão, você pode desativar a sincronização do Wandb na configuração.)

• cd scripts/train

• Para executar o treinamento multi-gpu paralelo de dados, em qualquer um dos comandos abaixo, substitua python <script_path> por python -m torch.distributed.launch --nproc_per_node <n_GPUs> --use_env <script_path> .

• Calmo pré -treinamento
  (duas variantes da função de perda auxiliar)

  • Script: python train_pretrain_table_agent.py
    Config: config/train_pretrain_table_agent.yaml

  • Script: python train_pretrain_simplified_aux_gpt2.py
    Config: config/train_pretrain_simplified_aux_gpt2.yaml

• Treinando o bot do cliente

  • Script: python train_customer.py
    Config: config/train_customer_bot.yaml

• Treinar calma
  (duas variantes da função de perda auxiliar)

  • Script: python train_real_table_agent.py
    Config: config/train_real_table_agent.yaml

  • Script: python train_simplified_aux_gpt2.py
    Config: config/train_simplified_aux_agent.yaml

• Treinamento padrão LM

  • Script: python train_basic_agent.py
    Config: config/train_basic_agent.yaml

• Treinando o modelo de recompensa para planejamento de lançamento baseado em modelo

  • Script: python train_constraint_parser.py
    Config: config/train_constraint_parser.yaml

Avaliação

• cd scripts/eval

• Avaliação simulada

  • Script: python selfplay_eval.py
    Config: config/selfplay_eval.yaml
    
    
    • Um registro de resultados será salvo no local especificado pelo selfplay/outputs_file na configuração. Para imprimir a taxa de sucesso para a execução do auto -jogo: python compute_results.py --results_file <your_eval_outputs_file>
      
      
    • NOTA: A avaliação do Autoplay, por padrão, usará todas as GPUs disponíveis em sua máquina. Para especificar quais GPUs usarem, prefixo o comando com CUDA_VISIBLE_DEVICES=<comma_seperated_list_of_gpu_indicies>

• Avaliação da qualidade do idioma

  • Script: python language_quality_eval.py
    Config: config/language_eval.yaml
    
    
    • Para paralelizar a avaliação em vários GPUs, execute: python -m torch.distributed.launch --nproc_per_node <n_GPUs> --use_env language_quality_eval.py