runhouseダウンロード-Runhouse runhouseコードのダウンロード

runhouse

パイソン

v0.0.37

ダウンロード

？‍♀ ‍♀️runhouse？

？ようこそホーム！

Runhouseは、研究と生産全体の迅速で費用対効果の高い機械学習開発を可能にします。これにより、Python機能とクラスを独自のクラウドコンピューティングインフラストラクチャのいずれかに派遣し、ローカルであるかのように熱心に呼び出すことができます。これはつまり：

ラップトップから、Ray、Spark、KubernetesなどのリモートGPUまたはその他の強力なインフラでコードをネイティブに実行およびデバッグできます。その後、アプリケーションコードはCI/CDまたは生産でAS-ISを実行しますが、まだリモートインフラに作業を派遣します。
インフラストラクチャの手順を含むアプリケーションは、手動のうなり声を排除する方法でコードでキャプチャされ、チームと研究と生産全体で正確に再現可能です。
スケーリングとコスト最適化の柔軟性は比類のないものであり、チームはしばしばコスト削減が〜50％であることがよくあります。

スケーリング、フォールトトレランス、マルチステップワークフローなどの複雑なロジックと同様に、クラスター、領域、または雲を横切るのは些細なことです。

Runhouseとは何ですか？

研究対生産がゆっくりと痛みを伴う場合、研究と生産データ/環境の不一致とオーケストレーターパイプラインのデバッグ性の欠如の両方により。
チームがPythonを実行して、複数のクラウドプロバイダーで実行されても、不均一なコンピューティング全体で単一のワークフローを柔軟に実行するためのインフラに依存しない方法を必要とする場合。
SagemakerやVertexのようなプラットフォームインボックスでのフラストレーションを終了し、MLコードを開発および展開するためのより柔軟なソリューションに移行します。
組織が1回限りのMLプロジェクトからスケールのMLフライホイールに移行するにつれて、MLの成熟度が高まります。

ハイライト：

Python機能、クラス、およびデータを即座にリモートインフラに派遣し、まるでローカルであるかのように熱心に呼び出します。展開/再展開はほぼ瞬時にあり、ログが戻ってきて、反復が非常に速くなります。
？ DSL、デコレーター、YAML、CLI呪文、またはボイラープレートはありません。 Pythonを実行する場所に展開できる独自の通常のPythonだけです。
？‍？特別なパッケージまたは展開処理は必要ありません。研究と生産コードは同一です。 CI/CD、オーケストレーター、またはマイクロサービスのようなアプリケーションからRunhouse Deployed機能を呼び出します。
？‍？広範で成長しているサポートを備えたBYO-INFRA - レイ、クベルネテス、AWS、GCP、紺ure、ローカル、オントレムなど。
？極端な再現性と携帯性。ロックインはありません。なぜなら、最も安価な価格設定をシフト、スケーリング、または選択したい場合、インフラを変更することは、異なるクラスターを指定する1行を変更するのと同じくらい簡単です。
？‍♀ fittps、Auth、Observability、Scaling、Custom Domains、Secrets、バージョン化など、Python関数またはクラスを堅牢なサービスとして共有します。
？‍？コンポーネントが分離されており、インフラ/モジュールがコードと相互作用できるため、複雑なワークフローまたはサービスと高度なロジックをサポートします。

Runhouse APIは簡単です。このように、インフラを計算する上で、モジュール（関数とクラス）を環境（ワーカープロセス）に送信します。

 import runhouse as rh
from diffusers import StableDiffusionPipeline

def sd_generate ( prompt , ** inference_kwargs ):
    model = StableDiffusionPipeline . from_pretrained ( "stabilityai/stable-diffusion-2-base" ). to ( "cuda" )
    return model ( prompt , ** inference_kwargs ). images

if __name__ == "__main__" :
    img = rh . Image ( "sd_image" ). install_packages ([ "torch" , "transformers" , "diffusers" ])
    gpu = rh . cluster ( name = "rh-a10x" , instance_type = "A10G:1" , provider = "aws" , image = img ). up_if_not ()

    # Deploy the function and environment (syncing over local code changes and installing dependencies)
    remote_sd_generate = rh . function ( sd_generate ). to ( gpu )

    # This call is actually an HTTP request to the app running on the remote server
    imgs = remote_sd_generate ( "A hot dog made out of matcha." )
    imgs [ 0 ]. show ()

    # You can also call it over HTTP directly, e.g. from other machines or languages
    print ( remote_sd_generate . endpoint ())

上記のシンプルな構造を使用すると、構築、呼び出し、共有できます。

AIプリミティブ：前処理、トレーニング、微調整、評価、推論
高次サービス：マルチステップ推論、E2Eワークフロー、評価ガントレット、HPO
？ UATエンドポイント：クライアントチームがテストして統合するインスタントエンドポイント
？ベストプラクティスユーティリティ：PII難読化、コンテンツモデレーション、データ増強

？€runhouse denを使用したインフラの監視、リソース共有、バージョンのバージョン

このリポジトリの補完的な製品であるRunhouse Denと、ユニークな観察可能性と共有機能のロックを解除できます。

関数またはクラスをリモートコンピューティングに送信した後、Runhouseを使用すると、サービスとして持続して共有でき、それ以外の場合は冗長なAIアクティビティをチームまたは会社の共通のモジュラーコンポーネントに変えます。

これにより、共有リソースが観察可能になります。デンを使用すると、リソースがどれくらいの頻度で呼び出されたか（および誰によって）、およびそれが使用していたボックスのGPU使用率は何でしたかを見ることができます。
これによりコストが向上します - 10 mlのパイプラインと研究者が、それぞれが独自のコンピューテリソースを割り当てるのではなく、同じ共有前処理、トレーニング、評価、またはバッチ推論サービスを呼び出すと考えてください
これにより、速度と再現性が向上します。パイプラインごとにわずかに異なるコードの展開を避け、公開されたすべての人に改良された方法の結果を展開します。

どこからでもログインして、リソースを保存、共有、ロードし、ガラスの1つのペインでの使用、ログ、および計算の使用を遵守します。

runhouse login

またはPythonから：

 import runhouse as rh
rh . login ()

上記の例を拡張して、DENを介してアプリを共有およびロードします。

 remote_sd_generate . share ([ "[email protected]" ])

# The service stub can now be reloaded from anywhere, always at yours and your collaborators' fingertips
# Notice this code doesn't need to change if you update, move, or scale the service
remote_sd_generate = rh . function ( "/your_username/sd_generate" )
imgs = remote_sd_generate ( "More matcha hotdogs." )
imgs [ 0 ]. show ()