RedisAI

警告

重新賽不再積極維護或支持。

我們感謝Redisai社區的興趣和支持。

重新賽

REDISAI是一個重複模塊，用於執行深度學習/機器學習模型並管理其數據。它的目的是通過為流行的DL/ML框架和無與倫比的性能提供現成的支持，成為用於模型服務的“主力”。重新賽既可以最大化計算吞吐量，又通過遵守數據局部性原理來減少潛伏期，並通過利用Redis生產預處理的基礎架構來簡化圖形的部署和服務。

要閱讀redisai文檔，請訪問redisai.io。要查看Redisai的行動，請訪問“演示”頁面。

Quickstart

Redisai是一個REDIS模塊。要運行它，您需要一個Redis服務器（v6.0.0或更高），模塊的共享庫及其依賴項。

以下各節描述瞭如何從Redisai開始。

Docker

嘗試Redisai的最快方法是啟動其官方Docker容器圖像。

在僅CPU機器上

 docker run -p 6379:6379 redislabs/redisai:1.2.7-cpu-bionic

在GPU機器上

對於GPU支持，您將需要一台機器，需要一台具有NVIDIA驅動程序（CUDA 11.3和CUDNN 8.1），NVIDIA-CONTAINER-TOOLKIT和DOCKER 19.03+安裝的機器。有關詳細信息，請查看Nvidia-Docker文檔

 docker run -p 6379:6379 --gpus all -it --rm redislabs/redisai:1.2.7-gpu-bionic

建築

您可以通過其源代碼編譯和構建模塊。開發人員頁面具有有關Redisai模塊的設計和實現以及如何貢獻的更多信息。

先決條件

• 包裝：git，python3，make，wget，g ++/clang和unzip
• 需要安裝CMAKE 3.0或更高的。
• 如果需要GPU支持，則需要安裝CUDA 11.3和CUDNN 8.1或更高。
• REDIS v6.0.0或更大。

獲取源代碼

您可以通過使用類似的git克隆項目的存儲庫來獲取模塊的源代碼：

git clone --recursive https://github.com/RedisAI/RedisAI

用以下方式切換到項目目錄

 cd RedisAI

建立依賴關係

使用以下腳本下載和構建各種redisai後端的庫（Tensorflow，Pytorch，onnxRuntime）僅適用於CPU：

bash get_deps.sh

另外，您可以運行以下內容以通過GPU支持來獲取後端。

bash get_deps.sh gpu

構建模塊

建立依賴項後，您可以使用以下方式構建重新賽模塊。

make -C opt clean ALL=1
make -C opt

另外，運行以下內容以構建Redisai，並在GPU支持下進行重新賽：

make -C opt clean ALL=1
make -C opt GPU=1

後端依賴

Redisai當前支持Pytorch（Libtorch），TensorFlow（LibtenSorFlow），Tensorflow Lite和OnnxRuntime作為後端。本節顯示了Redisai和受支持的後端之間的版本圖。這極為重要，因為一個版本的序列化機制可能與另一個版本不匹配。為了確保您的模型可以與給定的Redisai版本一起使用，請查看後端文檔，以了解後端版本與使用Redisai版本之間的不兼容功能。

重新賽	Pytorch	張量	tflite	Onnxruntime
1.0.3	1.5.0	1.15.0	2.0.0	1.2.0
1.2.7	1.11.0	2.8.0	2.0.0	1.11.1
掌握	1.11.0	2.8.0	2.0.0	1.11.1

注意：Keras和Tensorflow 2.X通過圖形凍結支持。請參閱此腳本以查看如何從Keras和Tensorflow 2.x導出冷凍圖。

加載模塊

要在啟動REDIS服務器時加載模塊，只需使用--loadmodule命令行開關， loadmodule配置指令或帶有模塊MODULE LOAD命令即可。

例如，使用服務器命令行開關從項目路徑加載模塊，請使用以下內容：

redis-server --loadmodule ./install-cpu/redisai.so

嘗試一下

加載後，您可以使用Redis-CLI與Redisai進行交互。此處描述了使用該模塊的基本信息和示例。

客戶庫庫

某些語言已經具有客戶庫，可以支持Redisai命令。下表列出了已知的表：

專案	語言	執照	作者	URL
Jredisai	爪哇	BSD-3	redislabs	github
重新賽	Python	BSD-3	redislabs	github
redisai-go	去	BSD-3	redislabs	github
REDISAI-JS	Typescript/JavaScript	BSD-3	redislabs	github
Redis-Modules-SDK	打字稿	BSD-3-C-sause	Dani Tseitlin	github
Redis-Modules-Java	爪哇	Apache-2.0	登安	github
Smartredis	C ++	BSD-2-cause	克雷實驗室	github
Smartredis	c	BSD-2-cause	克雷實驗室	github
Smartredis	Fortran	BSD-2-cause	克雷實驗室	github
Smartredis	Python	BSD-2-cause	克雷實驗室	github

可以在命令頁面上找到Redisai API的完整文檔。

文件

在redisai.io中閱讀文檔。

聯繫我們

如果您有疑問，想提供反饋或報告問題或貢獻一些代碼，那麼我們在這裡聽您說：

• 論壇
• 存儲庫

執照

Redisai已在您選擇的REDIS源可用許可證2.0（RSALV2）或服務器端公共許可證V1（SSPLV1）的許可下獲得許可。