cscg

Codegenerierung als doppelte Aufgabe der Code -Zusammenfassung

Ad-hoc-Implementierung des von Wei et al. Vorgeschlagenen CS/CG-Modells.

Erste Schritte

• Jeder Datensatz muss als Unterklasse von torch.utils.data.Dataset mit Methoden für definiert werden
  • Vorverarbeitungs- und Vocab Builder (Text -> Vokabschnitt -Nachschlagindizes)
  • __getitem__ , das ein Trainingsbeispiel zurückgeben muss
  • __len__
  • Generierung von Zug/Test/Gültige Spaltungen
  • Rechensprachenmodell probabilitiert (dh P(x) , wobei x : Anno/Code -Tensor)

Berechnung von LM -Wahrscheinlichkeiten

• Holen Sie sich Zug/Test/Gültige Splits für einen Datensatz.
• Erstellen Sie eine Konfiguration für die LM.
• Trainieren Sie für jede Art (Anno/Code) ein LM und lassen Sie das Modell als lm-{dataset_name}-{kind}.pt (z. B. lm-django-anno.pt ) ab.
• Berechnen Sie mit diesen Modellen P(x) für jedes x (Anno/Code -Tensor).

Referenz

 @article{wei2019code,
  title={Code Generation as a Dual Task of Code Summarization},
  author={Wei, Bolin and Li, Ge and Xia, Xin and Fu, Zhiyi and Jin, Zhi},
  journal={arXiv preprint arXiv:1910.05923},
  year={2019}
}