Descargar gpt2 ml - Descargar el código fuente gpt2 ml

gpt2 ml

Otro código fuente

V1.0 Release

Descargar

GPT2 para varios idiomas

中文说明| Inglés

Scripts de trenes GPT2 simplificados （basado en Grover, admitiendo TPUS）
Tokenizer Bert portado, Corpus multilingüe compatible con
1.5B GPT2 Modelo chino previamente provocado (~ 15g Corpus, 10W Pasos)
Demo de colab incluida en baterías #
1.5B GPT2 Modelo chino previamente pretrada (~ 30 g de corpus, 22W Pasos)

Modelo previamente

Tamaño	Idioma	Cuerpo	Vocabulario	Enlace1	Enlace2	SHA256
Parámetros 1.5b	Chino	~ 30g	Pista (tokens 8021)	Google Drive	Baidu Pan (FFZ6)	E698CC97A7F5F706F84F58BB469D614E 51D3C0CE5F9AB9BF77E01E3FCB41D482
Parámetros 1.5b	Chino	~ 15g	Bert (tokens 21128)	Google Drive	Baidu Pan (Q9VR)	4A6E5124DF8DB7AC2BDD902E6191B807 A6983A7F5D09FB10CE011F9A073B183E

Corpus de Thucnews y NLP_Chinese_Corpus

Uso de Cloud TPU POD V3-256 para entrenar 22W Pasos

pérdida

Google Colab

Con solo 2 clics (sin incluir el proceso de autenticación de Colab), la demostración del modelo chino previamente previamente previo al estado de 1.5B está listo para funcionar:

[Cuaderno de colab]

Tren

Descargo de responsabilidad

Los contenidos en este repositorio son para fines de investigación académica, y no proporcionamos ningún comentario concluyente.

Citación

 @misc{GPT2-ML,
  author = {Zhibo Zhang},
  title = {GPT2-ML: GPT-2 for Multiple Languages},
  year = {2019},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {url{https://github.com/imcaspar/gpt2-ml}},
}