CALM Dialogue

目標指向のダイアログシステムのコンテキスト認識言語モデリング

論文の公式コード「目標指向のダイアログシステムのためのコンテキスト対応言語モデリング」

プロジェクトサイト| arxiv

設定

1. CREATE CONDA環境： conda create --name CALM python=3.9.7
2. コンドラ環境をアクティブにする： conda activate CALM
3. インストール要件： pip install -r requirements.txt
4. Pytorch 1.9.0をインストール： conda install pytorch==1.9.0 cudatoolkit=11.3 -c pytorch -c conda-forge
5. export PYTHONPATH="$PWD/offline_airdialogue"
6. 処理されたデータとモデルのチェックポイントをこちらからダウンロードしてください。 outputs/フォルダーには、メインモデルのチェックポイント、タスクの前のモデル、および顧客ボットが含まれています。

トレーニング

（注：すべてのトレーニングはデフォルトでWandBを使用します。WandB同期を設定でオフにすることができます。）

• cd scripts/train

• Data-Parallel Multi-GPUトレーニングを実行するには、以下のコマンドのいずれかで、 python <script_path> python -m torch.distributed.launch --nproc_per_node <n_GPUs> --use_env <script_path>に置き換えます。

• 穏やかな事前に
  （補助損失関数の2つのバリアント）

  • スクリプト： python train_pretrain_table_agent.py
    config： config/train_pretrain_table_agent.yaml

  • スクリプト： python train_pretrain_simplified_aux_gpt2.py
    config： config/train_pretrain_simplified_aux_gpt2.yaml

• 顧客ボットのトレーニング

  • スクリプト： python train_customer.py
    config： config/train_customer_bot.yaml

• 落ち着いたトレーニング
  （補助損失関数の2つのバリアント）

  • スクリプト： python train_real_table_agent.py
    config： config/train_real_table_agent.yaml

  • スクリプト： python train_simplified_aux_gpt2.py
    config： config/train_simplified_aux_agent.yaml

• トレーニング標準LM

  • スクリプト： python train_basic_agent.py
    config： config/train_basic_agent.yaml

• モデルベースのロールアウト計画の報酬モデルのトレーニング

  • スクリプト： python train_constraint_parser.py
    config： config/train_constraint_parser.yaml

評価

• cd scripts/eval

• シミュレートされた評価

  • スクリプト： python selfplay_eval.py
    config： config/selfplay_eval.yaml
    
    
    • 結果のログは、構成内のselfplay/outputs_fileによって指定された場所に保存されます。セルフプレイの成功率を印刷するには： python compute_results.py --results_file <your_eval_outputs_file>
      
      
    • 注：セルフプレイ評価は、デフォルトではマシンで利用可能なすべてのGPUを使用します。使用するgpusを指定するには、 CUDA_VISIBLE_DEVICES=<comma_seperated_list_of_gpu_indicies>でコマンドをプレフィックスします

• 言語品質評価

  • スクリプト： python language_quality_eval.py
    config： config/language_eval.yaml
    
    
    • 複数gpusで評価を並列化するには、run： python -m torch.distributed.launch --nproc_per_node <n_GPUs> --use_env language_quality_eval.py