Документация | Китайская документация
Упрощенный китайский | Английский
Тенгин
Введение
Tengine возглавляет Open AI Lab , и проект осознает необходимость быстрого и эффективного развертывания моделей глубокого обучения нейронной сети на встроенных устройствах. Чтобы реализовать кроссплатформенное развертывание во многих приложениях AIOT , этот проект использует язык C для разработки основного модуля и проводит подробную резку рамочную резьбу на основе ограниченных ресурсов встроенных устройств. В то же время используется совершенно отдельная передняя конструкция, которая способствует быстрому портированию и развертыванию гетерогенных вычислительных единиц, таких как процессор, графический процессор и NPU, снижая стоимость оценки и миграции.
Код основного кода Tengine состоит из 4 модулей:
- Устройство : Бэкэнд -модуль операторов NN, ЦП, графический процессор, НПУ -контрольные коды;
- Планировщик : основные компоненты структуры, включая NNIR, вычислительный график, аппаратные ресурсы, а также модуль планирования и выполнения модельного анализатора;
- Оператор : модуль Front-End операторов NN, реализует регистрацию и инициализацию операторов NN;
- Serializer : модели анализатор, реализует анализ параметров сетевой модели в формате TMFILE.
Краткий анализ архитектуры
Начните быстро
Компиляция
- Быстрая компиляция, основанная на CMAKE, реализуется простой кроссплатформенный сборник.
Пример
- Примеры предоставляют базовые варианты использования алгоритма классификации и обнаружения и постоянно обновлять в соответствии с требованиями выпуска.
- Установка Source обеспечивает установку командной строки APT-GET и испытание системы Ubuntu и в настоящее время поддерживает аппаратное обеспечение X86/A311D.
Модельный склад
Инструмент преобразования
- Предварительно скомпилированная версия: предоставляет инструменты предварительно скомпилированной модели на системе Ubuntu 18.04;
- Версия онлайн -конверсии: на основе реализации Webassembly (Browser Local Conversion, модель не будет загружена;
- Компиляция исходного кода: рекомендуется компилировать на сервере или ПК, инструкции следующие:
mkdir build && cd build
cmake -DTENGINE_BUILD_CONVERT_TOOL=ON ..
make -j`nproc`
Количественные инструменты
- Компиляция исходного кода: исходный код количественного инструмента был открыт и поддерживает Uint8/Int8.
Оценка скорости
- Основной инструмент оценки скорости сети Benchmark, добро пожаловать, чтобы обновить его.
Плагин NPU
- TIM-VX Verisilicon NPU Руководство пользователя.
Плагин Autokernel
- Autokernel-это простой и простой в использовании инструмент оптимизации автоматического оператора с низким уровнем вида. Плагин Autokernel внедряет развертывание операторов автоматической оптимизации в одном клике в Tengine.
Контейнер
- Superedge предоставляет более удобное решение для управления бизнесом с помощью системы управления контейнерами с открытым исходным кодом Superedge Computing;
- Как использовать Tengine с руководством по использованию контейнеров Superedge;
- Руководство по созданию файлов файлов файлов в Руководство пользователя с захватом видео.
Дорожная карта
Благодарности
Tengine Lite ссылается и опирается на следующие элементы:
- Кофе
- Tensorflow
- Мегенгин
- Onnx
- ncnn
- Feathercnn
- Мнн
- Весл лайт
- Acl
- stb
- ConvertModel
- Тим-VX
- Супержедж
Лицензия
Уточнительная примечание
- [Функция онлайн -отчетности] Основная цель функции онлайн -отчетности - понять информацию об использовании Tengine. Информация используется для оптимизации и итерации Tengine и не будет влиять на каких -либо нормальных функций. Эта функция включена по умолчанию. Если вам нужно отключить его, вы можете изменить следующую конфигурацию для ее выключения: (Home Directory Cmakelists.txt) опция (Off Off)
Часто задаваемые вопросы
Техническое обсуждение
