Конвертировать модели трансформаторов, импортируемые из? Библиотека Трансформеров и используйте их на Android. Вы также можете проверить нашу репо Swift-Coreml-Transformers, если вы ищете трансформаторы на iOS.
Демонстрация модели Дистильберта (97% производительности Берта на клей), настраиваемое на вопрос, отвечающий на набор данных команды. Он предоставляет 48 отрывков из набора данных для пользователей на выбор.

Генерация текста на устройстве с использованием GPT-2 или Distilgpt2 (тот же процесс дистилляции, что и Distilbert, в 2 раза быстрее и 33% меньше, чем GPT-2)

Примеры сценариев, используемые для конвертации моделей, доступны в каталоге models_generation . Обратите внимание, что они требуют ночной версии Tensorflow и, таким образом, могут быть нестабильными.
Apache License 2.0