Fill in the BERT
1.0.0
Fill-in-the-Bert adalah fill dalam model kosong yang dilatih untuk memprediksi kata yang hilang dalam kalimat. Untuk tujuan demo ini, kami akan menggunakan Bert-Base-Base-Latih sebagai model prediksi kami. Jika Anda baru mengenal Bert, silakan baca Bert-Explained dan Visual Guide to Bert
$> python3 app.py
Buka index.html di browser dan mulai mengetik

PS Visualisasi perhatian dilakukan untuk Layer 3 di semua kepala perhatian dengan mengambil rata -rata. Baca lebih lanjut tentang kepala dan apa artinya dalam memvisualisasikan pekerjaan dalam perhatian