Converter modelos de transformadores importados do? Biblioteca Transformers e use -os no Android. Você também pode conferir nosso repositório Swift-Coreml-Transformers se estiver procurando Transformers no iOS.
Demonstração do modelo Distilbert (97% do desempenho de Bert na cola) ajustou-se para responder a perguntas no conjunto de dados do esquadrão. Ele fornece 48 passagens do conjunto de dados para os usuários escolherem.

Geração de texto no dispositivo usando GPT-2 ou destilgpt2 (mesmo processo de destilação que Distilbert, 2x mais rápido e 33% menor que o GPT-2)

Exemplo de scripts usados para converter os modelos estão disponíveis no diretório models_generation . Observe que eles exigem a versão noturna do Tensorflow e, portanto, podem ser instáveis.
Licença Apache 2.0