Скачать RedisAI - RedisAI исходный код скачать

RedisAI

Питон

Version 1.2.7

Скачать

Осторожность

Redisai больше не поддерживается или поддерживается.

Мы благодарны сообществу Redisai за их интерес и поддержку.

Redisai

Redisai - это модуль Redis для выполнения моделей глубокого обучения/машинного обучения и управления их данными. Его целью является «рабочая лошадка» для модельной подачи, предоставляя вне коробки поддержки популярных фреймворков DL/ML и непревзойденной производительности. Redisai как максимизирует пропускную способность вычислений и снижает задержку, придерживаясь принципа местности данных , а также упрощает развертывание и обслуживание графиков, используя инфраструктуру, проверенную Redis.

Чтобы прочитать документы Redisai, посетите redisai.io. Чтобы увидеть Redisai в действии, посетите страницу Demos.

QuickStart

Redisai - это модуль Redis. Чтобы запустить его, вам понадобится сервер Redis (v6.0.0 или более), общая библиотека модуля и его зависимости.

В следующих разделах описывается, как начать с Redisai.

Докер

Самый быстрый способ попробовать Redisai - запустить свои официальные изображения контейнеров Docker.

На машине только процессора

 docker run -p 6379:6379 redislabs/redisai:1.2.7-cpu-bionic

На машине GPU

Для поддержки GPU вам понадобится машина, вам понадобится машина с драйвером nvidia (Cuda 11.3 и Cudnn 8.1), Nvidia-Container-Toolkit и Docker 19.03+. Для получения подробной информации, проверка документации Nvidia-Docker

 docker run -p 6379:6379 --gpus all -it --rm redislabs/redisai:1.2.7-gpu-bionic

Здание

Вы можете скомпилировать и создать модуль из его исходного кода. На странице разработчика есть больше информации о проектировании и реализации модуля Redisai и о том, как внести свой вклад.

Предварительные условия

Пакеты: git, python3, make, wget, g ++/clang & unzip
Cmake 3.0 или выше необходимо установить.
CUDA 11.3 и Cudnn 8.1 или выше должны быть установлены, если требуется поддержка GPU.
Redis v6.0.0 или более.

Получите исходный код

Вы можете получить исходный код модуля, клонируя хранилище проекта, используя GIT, как SO:

git clone --recursive https://github.com/RedisAI/RedisAI

Переключитесь на каталог проекта с:

 cd RedisAI

Создание зависимостей

Используйте следующий скрипт для загрузки и создания библиотек различных бэкэндов Redisai (Tensorflow, Pytorch, Onnxruntime) только для процессора:

bash get_deps.sh

В качестве альтернативы, вы можете запустить следующее, чтобы получить бэкэнды с поддержкой графического процессора.

bash get_deps.sh gpu

Построение модуля

После того, как зависимости будут построены, вы можете построить модуль Redisai с:

make -C opt clean ALL=1
make -C opt

В качестве альтернативы запустите следующее для построения Redisai с помощью поддержки GPU:

make -C opt clean ALL=1
make -C opt GPU=1

Зависимость от бэкэнд

Redisai в настоящее время поддерживает Pytorch (Libtorch), Tensorflow (Libtensorflow), Tensorflow Lite и Onnxruntime в качестве бэкэндов. В этом разделе показана карта версий между Redisai и поддерживаемыми Backends. Это чрезвычайно важно, поскольку механизм сериализации одной версии может не совпадать с другой. Чтобы убедиться, что ваша модель будет работать с данной версией Redisai, проверьте бэкэнд -документацию о несовместимых функциях между версией вашего бэкэнда и версией Redisai.

Redisai	Пирог	Tensorflow	Tflite	Onnxruntime
1.0.3	1.5.0	1.15.0	2.0.0	1.2.0
1.2.7	1.11.0	2.8.0	2.0.0	1.11.1
владелец	1.11.0	2.8.0	2.0.0	1.11.1

Примечание. Керас и Tensorflow 2.x поддерживаются с помощью замораживания графика. Посмотрите этот сценарий, чтобы увидеть, как экспортировать замороженный график из Keras и Tensorflow 2.x.

Загрузка модуля

Чтобы загрузить модуль при запуске сервера Redis, просто используйте коммутатор командной строки --loadmodule , директиву конфигурации loadmodule или команду MODULE LOAD Redis с библиотекой модуля.

Например, для загрузки модуля с пути проекта с помощью коммутатора командной строки сервера Используйте следующее:

redis-server --loadmodule ./install-cpu/redisai.so

Попробуйте

После загрузки вы можете взаимодействовать с Redisai с помощью Redis-Cli. Основная информация и примеры использования модуля описаны здесь.

Клиентские библиотеки

У некоторых языков уже есть клиентские библиотеки, которые обеспечивают поддержку команд Redisai. В следующей таблице перечислены известные:

Проект	Язык	Лицензия	Автор	URL
Jredisai	Ява	BSD-3	Redislabs	GitHub
Redisai-Py	Питон	BSD-3	Redislabs	GitHub
Redisai-Go	Идти	BSD-3	Redislabs	GitHub
Redisai-JS	TypeScript/JavaScript	BSD-3	Redislabs	GitHub
Redis-Modules-Sdk	Машинопись	BSD-3-CLAUSE	Дани Цетлин	GitHub
Redis-Modules-Java	Ява	Apache-2.0	Денглиминг	GitHub
Smartredis	C ++	BSD-2-CLAUSE	Cray Labs	GitHub
Smartredis	В	BSD-2-CLAUSE	Cray Labs	GitHub
Smartredis	Фортран	BSD-2-CLAUSE	Cray Labs	GitHub
Smartredis	Питон	BSD-2-CLAUSE	Cray Labs	GitHub