tgm dlmダウンロード-TGM tgm dlmソースコードのダウンロード

tgm dlm

AI ソースコード

1.0.0

ダウンロード

拡散言語モデルを備えたテキスト誘導分子生成

tgmdlm

これは、AAAI 2024 Paper：拡散言語モデルを備えたテキスト誘導分子生成のコードです。

使用法

紙のデータ

パッケージcd TGMDLMCODE; pip install -e improved-diffusion/; pip install -e transformers/ 。
Scibertをダウンロードして、ファイルscibertに入れます。

トレーニング

cd improved-diffusion; cd scripts
テキスト入力python process_text.py -i train_val_256; python process_text.py -i test
フェーズ1の列車モデル： python train.py
フェーズ2の列車モデル： python train_correct_withmask.py

次の詳細は、実際にこのモデルを自分で訓練する前に知ることが重要です！

このモデルでは、サンプリング前に常に100,000段階以上のトレーニングが必要なため、通常の結果を得ることができます。パフォーマンスは、損失の収束後ずっと収束します。
最終的に損失は約0.015に収束します（この値は、トレーニング可能なパラメーターの量に依存します。0.015はこのコードのモデルです。Thousble範囲内で、モデルが大きく、損失が小さくなります）。実験の損失は0.015（0.02未満）に収束せず（0.08など）、別のランダムシードでトレーニング手順を再実行することをお勧めします。通常、損失は15,000ステップ以内に0.03未満に非常に迅速に収束する必要があります。あなたの損失が振る舞わない場合は、別の時間を試してみてください:)この問題を報告する@yhanjgに感謝します）
なぜこの問題が現れるのか、私たちは何の考えも持っていません。私は一度、損失が高い価値で立ち往生し、別の研究者が私のコードを実行した後に私に到達し、この問題も報告することを観察しました。この問題は、学習率の半分後に修正する必要があります:)

サンプリング

python text_sample.py; python post_sample.py最終ファイルOURMODEL_OUTPUT.txtは出力です。

評価

ev.pyを実行することにより、text2molを除くすべてのメトリックを評価できます。 text2molについては、詳細についてはmolt5にアクセスしてください。

要件

Python3
Pytorch 2.0
トランス（READMEのインストールに正確に従うように注意してください。）

引用

コードを使用する場合は、私たちの論文を引用してください。

 @article{gong2024text,
  title={Text-Guided Molecule Generation with Diffusion Language Model},
  author={Gong, Haisong and Liu, Qiang and Wu, Shu and Wang, Liang},
  volume={38},
  url={https://ojs.aaai.org/index.php/AAAI/article/view/27761},
  DOI={10.1609/aaai.v38i1.27761},
  number={1},
  journal={Proceedings of the AAAI Conference on Artificial Intelligence},
  year={2024},
  month={Mar.},
  pages={109-117}
}