pinferenciaダウンロード - pinferenciaソースコードのダウンロード

pinferencia

その他のソースコード

v0.2.1

ダウンロード

ピンフェンシア

シンプルですが、強力です。

英語のドキュメント| 中文文档| 中文readme

従業員求む。翻訳、ラップの歌詞、すべてが望ましい。お気軽に問題を作成してください。

Pinferenciaは、これまでで最も単純な機械学習推論サーバーになろうとしています！

3つの追加の行とモデルはオンラインになります。

GUIとREST APIを使用してモデルを提供することは、これほど簡単ではありませんでした。

Pinferencia-gui

Pinferencia-Rest API

あなたがしたい場合は

モデルにGUIとREST APIを与えます
モデルにサービスを提供するシンプルで堅牢な方法を見つける
あなたのサービスに対するコントロールを維持しながら、最小限のコードを書きます
重量のソリューションは避けてください
他のツール/プラットフォームと互換性があります

あなたは正しい場所にいます。

特徴

Pinferencia機能には以下が含まれます。

コードに速く、速く生きるために。必要な最小限のコード、最小限の変換が必要です。あなたが持っているものに基づいて。
100％のテストカバレッジ：声明と支店の両方のカバレッジ、冗談なし。これほど真剣にテストされたモデルサービングツールを知ったことがありますか？
使いやすく、理解しやすい。
かなりきれいできれいなGUIが箱から出しています。
自動APIドキュメントページ。すべてのAPIは、オンライントライアウト機能で詳細に説明しました。
あらゆるモデルを提供すると、単一の関数でさえ提供できます。
Kubeflow、TFサービング、Triton、Torchserveと互換性のあるKserve APIをサポートします。それらとの間に切り替える痛みはなく、 Pinferenciaはプロトタイピングの方がはるかに高速です！

インストール

バックエンドのみ

pip install " pinferencia "

クイックスタート

任意のモデルを提供します

 from pinferencia import Server


class MyModel :
    def predict ( self , data ):
        return sum ( data )


model = MyModel ()

service = Server ()
service . register ( model_name = "mymodel" , model = model , entrypoint = "predict" )

ただ実行：

 pinfer app:service

Hooray、あなたのサービスは生きています。 http://127.0.0.1:8501/にアクセスして、楽しんでください。

深い学習モデルはありますか？同じくらい簡単です。モデルを簡単にトレーニングまたはロードし、サービスに登録します。すぐに生きる。

顔を抱き締める

詳細：Huggingface Pipeline-ビジョン

 from transformers import pipeline

from pinferencia import Server

vision_classifier = pipeline ( task = "image-classification" )


def predict ( data ):
    return vision_classifier ( images = data )


service = Server ()
service . register ( model_name = "vision" , model = predict )

Pytorch

 import torch

from pinferencia import Server


# train your models
model = "..."

# or load your models (1)
# from state_dict
model = TheModelClass ( * args , ** kwargs )
model . load_state_dict ( torch . load ( PATH ))

# entire model
model = torch . load ( PATH )

# torchscript
model = torch . jit . load ( 'model_scripted.pt' )

model . eval ()

service = Server ()
service . register ( model_name = "mymodel" , model = model )

Tensorflow

 import tensorflow as tf

from pinferencia import Server


# train your models
model = "..."

# or load your models (1)
# saved_model
model = tf . keras . models . load_model ( 'saved_model/model' )

# HDF5
model = tf . keras . models . load_model ( 'model.h5' )

# from weights
model = create_model ()
model . load_weights ( './checkpoints/my_checkpoint' )
loss , acc = model . evaluate ( test_images , test_labels , verbose = 2 )

service = Server ()
service . register ( model_name = "mymodel" , model = model , entrypoint = "predict" )