runhouse 다운로드 - runhouse 소스 코드 다운로드

runhouse

파이썬

v0.0.37

다운로드

? ?️Runhouse?

? 집에 오신 것을 환영합니다!

런 하우스는 연구 및 생산 전반에 걸쳐 빠르고 비용 효율적인 기계 학습 개발을 가능하게합니다. 이를 통해 Python 기능 및 클래스를 자신의 클라우드 컴퓨팅 인프라로 파괴하고 마치 마치 로컬 인 것처럼 간절히 부를 수 있습니다. 이것은 다음을 의미합니다.

랩톱에서 원격 GPU 또는 Ray, Spark 또는 Kubernetes와 같은 다른 강력한 인프라에서 코드를 기본적으로 실행하고 디버깅 할 수 있습니다. 그런 다음 응용 프로그램 코드는 CI/CD 또는 프로덕션에서 AS- 실행되며 여전히 원격 인프라로 작업을 파견합니다.
인프라 단계를 포함한 애플리케이션은 수동 gruntwork를 제거하고 팀과 연구 및 생산 전체에서 정확하게 재현 할 수있는 방식으로 코드로 캡처됩니다.
규모 확장 및 비용 최적화에 대한 유연성은 타의 추종을 불허하며 팀은 종종 ~ 50%의 비용 절감을보고 있습니다.

클러스터, 지역 또는 구름을 가로 질러 오케스트레이션하는 것은 스케일링, 결함 공차 또는 다중 단계 워크 플로와 같은 복잡한 논리와 마찬가지로 사소합니다.

런 하우스는 무엇입니까?

연구에 대한 연구와 생산이 느리고 고통 스러울 때, 연구 및 생산 데이터/환경이 일치하지 않아 오케스트레이터 파이프 라인의 디지털 가능성 부족으로 인해.
팀이 파이썬을 실행하여 이질적인 컴퓨팅에서 단일 워크 플로우를 유연하게 실행하여 여러 클라우드 제공 업체에서 실행하는 적외선에 대한 정보가 필요한 경우.
Sagemaker 또는 Vertex와 같은 Platforms-in-a-Box에서 좌절을 끝내고 ML 코드를 개발하고 배포하기 위해보다 유연한 솔루션으로 이동합니다.
조직이 일회성 ML 프로젝트에서 스케일 ML 플라이휠로 이동함에 따라 ML 성숙도 증가.

하이라이트:

Python 기능, 클래스 및 데이터를 즉시 원격 인프라로 발송하고 마치 로컬 인 것처럼 간절히 부릅니다. 배포/재배치는 거의 즉각적이며 로그가 다시 스트리밍되어 반복이 매우 빠릅니다.
? DSL, 데코레이터, YAML, CLI Incantations 또는 BoilerPlate 없음. 파이썬을 실행하는 곳 어디에서나 배포 할 수있는 자신의 일반 파이썬 만 있습니다.
? ‍? 특별한 포장 또는 배포 처리가 필요하지 않습니다. 연구 및 생산 코드는 동일합니다. CI/CD, 오케스트레이터 또는 마이크로 서비스와 같은 응용 프로그램에서 런 하우스가 배치 한 기능을 호출하십시오.
? ‍? Ray, Kubernetes, AWS, GCP, Azure, Local, On-Prem 등의 광범위하고 성장하는 지원이있는 BYO-INFRA.
? ibility 극한의 재현성과 이식성. 가장 저렴한 가격 책정을 전환, 스케일 또는 선택하려는 경우 다른 클러스터를 지정하는 1 라인을 변경하는 것만 큼 쉽게 변경되는 경우 잠금 장치가 없습니다.
? on️ https, 인증, 관찰 가능성, 스케일링, 사용자 정의 도메인, 비밀, 버전 작성 등을 포함한 강력한 서비스로 Python 기능 또는 클래스를 공유합니다.
? ‍? 컴포넌트가 결합되고 인프라/모듈이 코드와 상호 작용할 수 있으므로 복잡한 워크 플로 또는 서비스 및 고급 로직 지원을 지원합니다.

런 하우스 API는 간단합니다. 모듈 (기능 및 클래스)을 컴퓨팅 인프라 에서 환경 (작업자 프로세스)으로 보내십시오.

 import runhouse as rh
from diffusers import StableDiffusionPipeline

def sd_generate ( prompt , ** inference_kwargs ):
    model = StableDiffusionPipeline . from_pretrained ( "stabilityai/stable-diffusion-2-base" ). to ( "cuda" )
    return model ( prompt , ** inference_kwargs ). images

if __name__ == "__main__" :
    img = rh . Image ( "sd_image" ). install_packages ([ "torch" , "transformers" , "diffusers" ])
    gpu = rh . cluster ( name = "rh-a10x" , instance_type = "A10G:1" , provider = "aws" , image = img ). up_if_not ()

    # Deploy the function and environment (syncing over local code changes and installing dependencies)
    remote_sd_generate = rh . function ( sd_generate ). to ( gpu )

    # This call is actually an HTTP request to the app running on the remote server
    imgs = remote_sd_generate ( "A hot dog made out of matcha." )
    imgs [ 0 ]. show ()

    # You can also call it over HTTP directly, e.g. from other machines or languages
    print ( remote_sd_generate . endpoint ())

위의 간단한 구조를 사용하여 구축, 전화 및 공유 할 수 있습니다.

AI 프리미티브 : 전처리, 훈련, 미세 조정, 평가, 추론
고차 서비스 : 다단계 추론, E2E 워크 플로우, 평가 건틀릿, HPO
? UAT 엔드 포인트 : 클라이언트 팀이 테스트하고 통합 할 수있는 즉각적인 엔드 포인트
? 모범 사례 유틸리티 : PII 난독 화, 컨텐츠 중재, 데이터 확대

? 닐 인프라 모니터링, 런 하우스 덴과의 자원 공유 및 버전

이 저장소의 보완 제품인 Runhouse Den과 고유 한 관찰 가능성 및 공유 기능을 잠금 해제 할 수 있습니다.

원격 컴퓨팅으로 기능이나 클래스를 보낸 후 Runhouse를 사용하면 서비스를 지속하고 공유 할 수 있으며, 다른 중복 AI 활동을 팀 또는 회사의 일반적인 모듈 식 구성 요소로 전환 할 수 있습니다.

이것은 공유 자원을 관찰 할 수있게한다. DEN을 사용하면 자원이 얼마나 자주 호출되었는지 (그리고 누구에 의해), 상자의 GPU 활용은 무엇인지 알 수 있습니다.
이로 인해 비용이 향상됩니다. 10ml 파이프 라인과 연구원이 자체 컴퓨팅 리소스를 할당하는 각각의 것보다 동일한 공유 전처리, 교육, 평가 또는 배치 추론 서비스를 호출한다고 생각합니다.
이것은 속도와 재현성을 향상시킵니다. 파이프 라인마다 약간 다른 코드를 배포하지 않고 일단 게시 한 모든 사람에게 개선 된 방법의 결과를 배포하십시오.

자원을 저장, 공유 및로드하려면 어디서나 로그인하고 유리 단일 창에서 사용법, 로그 및 계산을 관찰하십시오.

runhouse login

또는 파이썬에서 :

 import runhouse as rh
rh . login ()

위의 예제를 확장하여 DEN을 통해 앱을 공유하고로드합니다.

 remote_sd_generate . share ([ "[email protected]" ])

# The service stub can now be reloaded from anywhere, always at yours and your collaborators' fingertips
# Notice this code doesn't need to change if you update, move, or scale the service
remote_sd_generate = rh . function ( "/your_username/sd_generate" )
imgs = remote_sd_generate ( "More matcha hotdogs." )
imgs [ 0 ]. show ()