albert zh for pytorch transformers Descargar - albert zh for pytorch transformers Código fuente Descargar Descargar

albert zh for pytorch transformers

Código Fuente de IA

albert for pytorch

Descargar

El autor de referencia original ha proporcionado los resultados de descarga y prueba del modelo.

https://github.com/lonepatient/albert_pytorch/blob/master/readme_zh.md

Albert-Zh para Pytorch-Transformers

Deja de actualizar
Simplemente convierta en función de la referencia y luego pise la mina
Albert ZH para Pytorch-Transformers
Soporte de prueba para chinos tradicionales

Modelos disponibles

albert_tiny_zh
albert_base_zh
albert_large_zh
albert_xlarge_zh

API

Primer lugar, albert_zh en este repositorio en su proyecto

from albert_zh import ...

 AlbertConfig
AlbertTokenizer
AlbertModel
AlbertForMaskedLM
AlbertForQuestionAnswering
AlbertForSequenceClassification

https://huggingface.co/transformers/v2.3.0/model_doc/albert.html

Cómo usar

Ver usage_example.py
O consulte el ejemplo de uso real de P208P2002/Taipei-Qa-Bert
La prueba funciona correctamente en Transformers 2.3.0

Preguntas frecuentes

Quiero presentarlo en Jupyter y Colab, pero tengo problemas

Este nombramiento de reposio no cumple con la convención de nombres de módulos de Python, y Jupyter en sí no tiene un buen soporte para módulos personalizados. Consulte el ejemplo de la solución a continuación. Considere empujar a Pypi más tarde

 # 此段code僅適用於jupyter、colab
!git clone https://github.com/p208p2002/albert-zh-for-pytorch-transformers.git albert
import sys 
sys.path.append('.')
from albert.albert_zh import AlbertConfig, AlbertTokenizer, AlbertForSequenceClassification

La pérdida no se puede reducir, el entrenamiento se convierte en basura

Asegúrese de que Albert_ZH introduzca la clase de modelo y la configuración del modelo, no de Transformers

solitario/albert_pytorch#35

AttributeRor: 'BertConfig' Object no tiene atributo 'share_type'

config.json agrega "share_type":"all"

El modelo imprime cosas durante el entrenamiento

Utilice log() en lugar de print() y ejecute blockPrint() una vez al comienzo del programa

 import os , sys
def log ( * logs ):
    enablePrint ()
    print ( * logs )
    blockPrint ()

# Disable
def blockPrint ():
    sys . stdout = open ( os . devnull , 'w' )

# Restore
def enablePrint ():
    sys . stdout = sys . __stdout__