rig

리그에 대한 단어를 전파하는 데 도움이 되려면 레포를 주연으로 고려하십시오!

경고

여기 드래곤! RIG는 알파 소프트웨어이며 진화함에 따라 변화가 포함 됩니다 . 우리는 그것들을 주석을 달고 마이그레이션 경로를 강조 할 것입니다.

리그 란 무엇입니까?

RIG는 확장 가능, 모듈 식 및 인체 공학적 LLM 구동 응용 프로그램을 구축하기위한 Rust Library입니다.

이 상자에 대한 자세한 내용은 상자 문서에서 찾을 수 있습니다.

피드백 양식에 기여하여 리그를 개선하도록 도와줍니다.

목차

• 리그 란 무엇입니까?
• 목차
• 높은 수준의 기능
• 시작하세요
  • Simple example:
• 통합

높은 수준의 기능

• LLM 완료 및 임베딩 워크 플로에 대한 전폭적 인 지원
• LLM 제공 업체 (예 : OpenAI, Cohere) 및 Vector Stores (예 : MongoDB, Memory)에 대한 간단하지만 강력한 일반적인 추상화
• 최소 보일러 플레이트와 앱의 LLM을 통합하십시오

시작하세요

cargo add rig-core

Simple example:

 use rig :: { completion :: Prompt , providers :: openai } ;

# [ tokio :: main ]
async fn main ( ) {
    // Create OpenAI client and model
    // This requires the `OPENAI_API_KEY` environment variable to be set.
    let openai_client = openai :: Client :: from_env ( ) ;

    let gpt4 = openai_client . agent ( "gpt-4" ) . build ( ) ;

    // Prompt the model and print its response
    let response = gpt4
        . prompt ( "Who are you?" )
        . await
        . expect ( "Failed to prompt GPT-4" ) ;

    println ! ( "GPT-4: {response}" ) ;
}

참고 #[tokio::main] 사용하면 Tokio의 macros 및 rt-multi-thread 기능을 활성화하거나 모든 기능을 활성화 할 수 있도록 full 있어야합니다 ( cargo add tokio --features macros,rt-multi-thread ).

각 상자의 examples (예 : src/examples ) 디렉토리를 더 많이 찾을 수 있습니다. 보다 자세한 사용 사례 연습은 정기적으로 Dev.to Blog에 게시됩니다.

지원되는 통합

모델 제공 업체	벡터 저장