deepdetect

開源深度學習服務器和API

DeepDetect（https://www.deepdetect.com/）是一款機器學習API和C ++ 11中編寫的服務器。它使最適合與現有應用程序合作並集成到現有的應用程序中。它具有對訓練和推理的支持，並自動轉換為帶有Tensorrt（Nvidia GPU）和NCNN（ARM CPU）的嵌入式平台。

它支持對圖像，文本，時間序列和其他數據的監督和無監督的深度學習，重點是簡單性和易用性，測試和連接到現有應用程序中。它支持分類，對象檢測，細分，回歸，自動編碼器，...

它通過非常通用且靈活的API依賴外部機器學習庫。目前，它具有支持：

• 深度學習庫Caffe，Tensorflow，Caffe2，Torch，NCNN Tensorrt和Dlib
• 分佈式梯度提升庫xgboost
• 與T-SNE聚集
• 與煩惱和faiss相似性搜索

請加入社區，以吉特（Gitter）的身份，我們可以幫助用戶通過安裝，API，神經網和與外部應用程序的連接進行連接。

---

構建類型	穩定的	開發
來源

所有DeepDetect Docker圖像可從https://docker.jolibrain.com/獲得。

• 列出所有可用的圖像：

 curl -X GET https://docker.jolibrain.com/v2/_catalog

• 要列出一個可用的圖像標籤，例如， deepdetect_cpu圖像：

 curl -X GET https://docker.jolibrain.com/v2/deepdetect_cpu/tags/list

---

• 主要功能

• 每個庫的機器學習功能

• 安裝

  • 來自Docker
  • 來自來源
  • 來自Amazon Ami：GPU和CPU
  • 模仿連續集成測試

• 準備使用的型號

• 生態系統

  • 平台演示
  • 使用Docker-Compose安裝平台
  • 帶有頭盔的平台安裝（Kubernetes）
  • 工具和客戶

• 文件:

  • 介紹
  • API QuickStart：在幾分鐘內設置圖像分類器API服務
  • API教程：從文本，數據和圖像，預測服務設置的設置以及出口到外部軟件（例如Eg Elasticsearch）的培訓
  • API參考
  • 示例：用於數據，文本，對CNN和GOOGLENET的多目標回歸的MLP，Finetuning等...）
  • 常問問題

• 演示：

  • 使用HTML和JavaScript的圖像分類Web應用程序
  • 使用Python客戶端的圖像相似性搜索
  • 使用Python客戶端檢測圖像對象檢測
  • 使用Python客戶端進行圖像分割

• 性能工具並在NVIDIA桌面和嵌入式GPU上進行報告，以及Raspberry Pi 3。

• 參考

• 作者

主要功能

• 用於機器學習和深度學習的高級API
• 支持Caffe，Tensorflow，Xgboost，T-SNE，Caffe2，NCNN，Tensorrt，Pytorch
• 分類，回歸，自動編碼器，對象檢測，細分，時間序列
• JSON通信格式
• 遠程Python和Javacript客戶
• 專用服務器，並支持異步訓練電話
• 高性能，受益於多核CPU和GPU
• 通過神經嵌入的內置相似性搜索
• 連接器可以處理大量圖像收集，並具有在線數據增強（例如旋轉，鏡像）
• 具有預處理功能的連接器來處理CSV文件
• 處理文本文件，句子和基於字符的模型的連接器
• 連接器處理稀疏數據的SVM文件格式
• 內置模型評估措施範圍（例如F1，多類日誌損失，...）
• 特殊損失範圍（例如骰子，輪廓，...）
• 沒有數據庫依賴關係和同步，所有信息和模型參數都組織起來並從文件系統中獲得
• 靈活的模板輸出格式以簡化與外部應用程序的連接
• 最有用的神經體系結構的模板（例如Googlenet，Alexnet，Resnet，Convnet，基於角色的Convnet，MLP，MLP，Logistic Remission，SSD，Deeplab，Pspnet，u-net，u-net，crnn，crnn，shufflenet，squeeezenet，squeezenet，mobilenet，mobilenet，pofinetet，vovnet，vovnet，...））
• 支持GPU和CPU上的稀疏功能和計算
• 內置的相似性索引和搜索預測的功能，圖像，對象和概率分佈
• 基於招搖的自動生成文檔

每個庫的機器學習功能

	咖啡餅	caffe2	xgboost	張力	NCNN	libtorch	張量	T-SNE	Dlib
服務
培訓（CPU）	y	y	y	N/A。	N/A。	y	n	y	n
培訓（GPU）	y	y	y	N/A。	N/A。	y	n	y	n
推理（CPU）	y	y	y	n	y	y	y	N/A。	y
推理（GPU）	y	y	y	y	n	y	y	N/A。	y
型號
分類	y	y	y	y	y	y	y	N/A。	y
對象檢測	y	y	n	y	y	n	n	N/A。	y
分割	y	n	n	n	n	n	n	N/A。	n
回歸	y	n	y	n	n	y	n	N/A。	n
自動編碼器	y	n	N/A。	n	n	n	n	N/A。	n
NLP	y	n	y	n	n	y	n	y	n
OCR / SEQ2SEQ	y	n	n	n	y	n	n	n	n
時間序列	y	n	n	n	y	y	n	n	n
數據
CSV	y	n	y	n	n	n	n	y	n
SVM	y	n	y	n	n	n	n	n	n
文字	y	n	y	n	n	n	n	n	n
文字字符	y	n	n	n	n	n	n	y	n
圖像	y	y	n	y	y	y	y	y	y
時間序列	y	n	n	n	y	n	n	n	n

工具和客戶

• Python客戶端：
  • REST客戶端：https：//github.com/jolibrain/deepdetect/tree/master/clients/python
  • 'a la scikit'綁定：https：//github.com/ardalanm/pydd
• Javacript客戶端：https：//github.com/jolibrain/deepdetect-js
• Java客戶端：https：//github.com/kfadhel/deepdetect-api-java
• 早期C＃客戶端：＃98
• 通過Tensorboard：https：//github.com/jolibrain/dd_board通過tensorboard：log DeepDetect培訓指標

型號

	咖啡餅	張量	來源	TOP-1準確性（Imagenet）
Alexnet	y	n	BVLC	57.1％
擠壓	y	n	深度	59.5％
Inception V1 / googlenet	y	y	BVLC / Google	67.9％
Inception v2	n	y	Google	72.2％
Inception V3	n	y	Google	76.9％
Inception V4	n	y	Google	80.2％
重新連接50	y	y	MSR	75.3％
重新連接101	y	y	MSR	76.4％
重新連接152	y	y	MSR	77％
Inception-Resnet-V2	n	y	Google	79.79％
VGG-16	y	y	牛津	70.5％
VGG-19	y	y	牛津	71.3％
Resnext 50	y	n	https://github.com/terrychenism/resnext	76.9％
Resnext 101	y	n	https://github.com/terrychenism/resnext	77.9％
Resnext 152	y	n	https://github.com/terrychenism/resnext	78.7％
Densenet-121	y	n	https://github.com/shicai/densenet-caffe	74.9％
Densenet-161	y	n	https://github.com/shicai/densenet-caffe	77.6％
Densenet-169	y	n	https://github.com/shicai/densenet-caffe	76.1％
Densenet-2011	y	n	https://github.com/shicai/densenet-caffe	77.3％
SE-BN滲透	y	n	https://github.com/hujie-frank/senet	76.38％
Se-Resnet-50	y	n	https://github.com/hujie-frank/senet	77.63％
SE-RESNET-101	y	n	https://github.com/hujie-frank/senet	78.25％
SE-RESNET-152	y	n	https://github.com/hujie-frank/senet	78.66％
Se-Resnext-50	y	n	https://github.com/hujie-frank/senet	79.03％
SE-RESNEXT-101	y	n	https://github.com/hujie-frank/senet	80.19％
塞特	y	n	https://github.com/hujie-frank/senet	81.32％
VOC0712（對象檢測）	y	n	https://github.com/weiliu89/caffe/tree/ssd	71.2地圖
InceptionBn-21k	y	n	https://github.com/pertusa/inceptionbn-21k-for-caffe	41.9％
Inception v3 5k	n	y	https://github.com/openimages/dataset
5點面部標記模型（面部檢測）	n	n	http://blog.dlib.net/2017/09/fast-multiclass-object-detection-in.html
前/後車輛檢測（對象檢測）	n	n	http://blog.dlib.net/2017/09/fast-multiclass-object-detection-in.html

更多模型：

• 免費的，即使用於商業用途的免費列表，用於圖像分類的深神網和用於文本分類的基於角色的捲積網：https：//www.deepdetect.com/applications/list_models/

參考

• DeepDetect（https://www.deepdetect.com/）
• caffe（https://github.com/jolibrain/caffe）
• XGBOOST（https://github.com/dmlc/xgboost）
• T-SNE（https://github.com/dmitrylyanov/multicore-tsne）

作者

DeepDetect在其他貢獻者的幫助下由Jolibrain設計，實施和支持。