Fill in the BERT

Füllung

Füllung ist ein Füllung des Blindmodells, das geschult ist, um das fehlende Wort im Satz vorherzusagen. Für die Zwecke dieser Demo werden wir vorgebreitete Bert-Base-Beschäftigung als Vorhersagemodell verwenden. Wenn Sie neu in Bert sind, lesen Sie bitte Bert-erklärte und visuelle Anleitung zu Bert

Schritte zum Laufen

 $> python3 app.py

Öffnen Sie index.html im Browser und beginnen Sie mit der Eingabe

Demo

Details

• Modell -Bert-Base-Unbekannt
• Vorausgebildete Aufgabe - maskedlm

PS Die Aufmerksamkeitsvisualisierung erfolgt für Schicht 3 über alle Aufmerksamkeitsköpfe über den Durchschnitt. Lesen Sie mehr über Köpfe und was sie bedeuten, um die Aufmerksamkeit innen zu visualisieren

Technologien verwendet

1. Pytorch
2. HTML/Bootstrap
3. Flasche