albert zh for pytorch transformers - albert zh for pytorch transformers Sumber Code Unduh

albert zh for pytorch transformers

Kode Sumber AI

albert for pytorch

Unduh

Penulis referensi asli telah memberikan hasil unduhan dan tes model

https://github.com/lonepatent/albert_pytorch/blob/master/readme_zh.md

Albert-Zh untuk transformator pytorch

Berhenti memperbarui
Konversi saja berdasarkan referensi dan kemudian menginjak tambang
Albert Zh untuk transformator pytorch
Dukungan Uji untuk Cina Tradisional

Model yang tersedia

albert_tiny_zh
albert_base_zh
Albert_large_zh
albert_xlarge_zh

API

Tempat pertama albert_zh dalam repo ini di bawah proyek Anda

from albert_zh import ...

 AlbertConfig
AlbertTokenizer
AlbertModel
AlbertForMaskedLM
AlbertForQuestionAnswering
AlbertForSequenceClassification

https://huggingface.co/transformers/v2.3.0/model_doc/albert.html

Cara menggunakan

Lihat usage_example.py
Atau lihat contoh penggunaan aktual P208P2002/taipei-qa-bert
Pengujian berfungsi dengan baik di Transformers 2.3.0

Pertanyaan yang sering diajukan

Saya ingin memperkenalkannya di Jupyter dan Colab tetapi saya punya masalah

Penamaan repo ini tidak mematuhi konvensi penamaan modul Python, dan Jupyter sendiri tidak memiliki dukungan yang baik untuk modul yang disesuaikan. Silakan merujuk ke contoh solusi di bawah ini. Pertimbangkan mendorong pypi nanti

 # 此段code僅適用於jupyter、colab
!git clone https://github.com/p208p2002/albert-zh-for-pytorch-transformers.git albert
import sys 
sys.path.append('.')
from albert.albert_zh import AlbertConfig, AlbertTokenizer, AlbertForSequenceClassification

Kehilangan tidak dapat dikurangi, pelatihan menjadi sampah

Pastikan Kelas Model dan Konfigurasi Model diperkenalkan oleh Albert_zh, bukan Transformers

LONEPATIENT/ALBERT_PYTORCH#35

AtributeRror: Objek 'BertConfig' tidak memiliki atribut 'share_type'

config.json menambahkan "share_type":"all"

Model mencetak hal -hal selama pelatihan

Harap gunakan log() bukan print() , dan jalankan blockPrint() sekali di awal program

 import os , sys
def log ( * logs ):
    enablePrint ()
    print ( * logs )
    blockPrint ()

# Disable
def blockPrint ():
    sys . stdout = open ( os . devnull , 'w' )

# Restore
def enablePrint ():
    sys . stdout = sys . __stdout__