警告
重新赛不再积极维护或支持。
我们感谢Redisai社区的兴趣和支持。
REDISAI是一个重复模块,用于执行深度学习/机器学习模型并管理其数据。它的目的是通过为流行的DL/ML框架和无与伦比的性能提供现成的支持,成为用于模型服务的“主力”。重新赛既可以最大化计算吞吐量,又通过遵守数据局部性原理来减少潜伏期,并通过利用Redis生产预处理的基础架构来简化图形的部署和服务。
要阅读redisai文档,请访问redisai.io。要查看Redisai的行动,请访问“演示”页面。
Redisai是一个REDIS模块。要运行它,您需要一个Redis服务器(v6.0.0或更高),模块的共享库及其依赖项。
以下各节描述了如何从Redisai开始。
尝试Redisai的最快方法是启动其官方Docker容器图像。
docker run -p 6379:6379 redislabs/redisai:1.2.7-cpu-bionic
对于GPU支持,您将需要一台机器,需要一台具有NVIDIA驱动程序(CUDA 11.3和CUDNN 8.1),NVIDIA-CONTAINER-TOOLKIT和DOCKER 19.03+安装的机器。有关详细信息,请查看Nvidia-Docker文档
docker run -p 6379:6379 --gpus all -it --rm redislabs/redisai:1.2.7-gpu-bionic
您可以通过其源代码编译和构建模块。开发人员页面具有有关Redisai模块的设计和实现以及如何贡献的更多信息。
您可以通过使用类似的git克隆项目的存储库来获取模块的源代码:
git clone --recursive https://github.com/RedisAI/RedisAI用以下方式切换到项目目录
cd RedisAI使用以下脚本下载和构建各种redisai后端的库(Tensorflow,Pytorch,onnxRuntime)仅适用于CPU:
bash get_deps.sh另外,您可以运行以下内容以通过GPU支持来获取后端。
bash get_deps.sh gpu建立依赖项后,您可以使用以下方式构建重新赛模块。
make -C opt clean ALL=1
make -C opt另外,运行以下内容以构建Redisai,并在GPU支持下进行重新赛:
make -C opt clean ALL=1
make -C opt GPU=1Redisai当前支持Pytorch(Libtorch),TensorFlow(LibtenSorFlow),Tensorflow Lite和OnnxRuntime作为后端。本节显示了Redisai和受支持的后端之间的版本图。这极为重要,因为一个版本的序列化机制可能与另一个版本不匹配。为了确保您的模型可以与给定的Redisai版本一起使用,请查看后端文档,以了解后端版本与使用Redisai版本之间的不兼容功能。
| 重新赛 | Pytorch | 张量 | tflite | Onnxruntime |
|---|---|---|---|---|
| 1.0.3 | 1.5.0 | 1.15.0 | 2.0.0 | 1.2.0 |
| 1.2.7 | 1.11.0 | 2.8.0 | 2.0.0 | 1.11.1 |
| 掌握 | 1.11.0 | 2.8.0 | 2.0.0 | 1.11.1 |
注意:Keras和Tensorflow 2.X通过图形冻结支持。请参阅此脚本以查看如何从Keras和Tensorflow 2.x导出冷冻图。
要在启动REDIS服务器时加载模块,只需使用--loadmodule命令行开关, loadmodule配置指令或带有模块库路径的Redis MODULE LOAD命令即可。
例如,使用服务器命令行开关从项目路径加载模块,请使用以下内容:
redis-server --loadmodule ./install-cpu/redisai.so加载后,您可以使用Redis-CLI与Redisai进行交互。此处描述了使用该模块的基本信息和示例。
某些语言已经具有客户库,可以支持Redisai命令。下表列出了已知的表:
| 项目 | 语言 | 执照 | 作者 | URL |
|---|---|---|---|---|
| Jredisai | 爪哇 | BSD-3 | redislabs | github |
| 重新赛 | Python | BSD-3 | redislabs | github |
| redisai-go | 去 | BSD-3 | redislabs | github |
| REDISAI-JS | Typescript/JavaScript | BSD-3 | redislabs | github |
| Redis-Modules-SDK | 打字稿 | BSD-3-C-sause | Dani Tseitlin | github |
| Redis-Modules-Java | 爪哇 | Apache-2.0 | 登安 | github |
| Smartredis | C ++ | BSD-2-cause | 克雷实验室 | github |
| Smartredis | c | BSD-2-cause | 克雷实验室 | github |
| Smartredis | Fortran | BSD-2-cause | 克雷实验室 | github |
| Smartredis | Python | BSD-2-cause | 克雷实验室 | github |
可以在命令页面上找到Redisai API的完整文档。
在redisai.io中阅读文档。
如果您有疑问,想提供反馈或报告问题或贡献一些代码,那么我们在这里听您说:
Redisai已在您选择的REDIS源可用许可证2.0(RSALV2)或服务器端公共许可证V1(SSPLV1)的许可下获得许可。