albert zh for pytorch transformers Télécharger - albert zh for pytorch transformers Code Source Télécharger

albert zh for pytorch transformers

Code Source AI

albert for pytorch

Télécharger

L'auteur de référence original a fourni le modèle de téléchargement et de résultats de test

https://github.com/lonepatient/albert_pytorch/blob/master/readme_zh.md

Albert-Zh pour les transformateurs pytorch

Arrêtez de mettre à jour
Convertissez-vous en fonction de la référence puis marchez sur la mine
Albert Zh pour les transformateurs pytorch
Test de soutien aux chinois traditionnels

Modèles disponibles

albert_tiny_zh
albert_base_zh
albert_large_zh
albert_xlarge_zh

API

Placez d'abord albert_zh dans ce dépôt sous votre projet

from albert_zh import ...

 AlbertConfig
AlbertTokenizer
AlbertModel
AlbertForMaskedLM
AlbertForQuestionAnswering
AlbertForSequenceClassification

https://huggingface.co/transformateurs/v2.3.0/model_doc/albert.html

Comment utiliser

Voir usage_example.py
Ou reportez-vous à l'exemple d'utilisation réel de P208P2002 / Taipei-QA-BERT
Les tests fonctionnent correctement dans les transformateurs 2.3.0

Questions fréquemment posées

Je veux le présenter dans Jupyter et Colab mais j'ai des problèmes

Cette dénomination des référentiels ne respecte pas la convention de dénomination du module Python, et Jupyter lui-même n'a pas une bonne prise en charge des modules personnalisés. Veuillez vous référer à l'exemple de la solution ci-dessous. Envisagez de pousser PYPI plus tard

 # 此段code僅適用於jupyter、colab
!git clone https://github.com/p208p2002/albert-zh-for-pytorch-transformers.git albert
import sys 
sys.path.append('.')
from albert.albert_zh import AlbertConfig, AlbertTokenizer, AlbertForSequenceClassification

La perte ne peut pas être réduite, l'entraînement devient des ordures

Assurez-vous que la classe et la configuration du modèle sont introduits par Albert_Zh, pas les transformateurs

LonePatient / Albert_Pytorch # 35

AttributeError: l'objet 'bertconfig' n'a pas d'attribut 'share_type'

config.json ajoute "share_type":"all"

Le modèle imprime les choses pendant la formation

Veuillez utiliser log() au lieu de print() et exécuter blockPrint() une fois au début du programme

 import os , sys
def log ( * logs ):
    enablePrint ()
    print ( * logs )
    blockPrint ()

# Disable
def blockPrint ():
    sys . stdout = open ( os . devnull , 'w' )

# Restore
def enablePrint ():
    sys . stdout = sys . __stdout__