rig

Si vous souhaitez aider à faire passer le mot sur RIG, veuillez envisager de mettre en vedette le dépôt!

Avertissement

Voici des dragons! RIG est un logiciel Alpha et contiendra des changements de rupture à mesure qu'il évolue. Nous les annoterons et mettrons en évidence les chemins de migration au fur et à mesure que nous les rencontrons.

Qu'est-ce que RIG?

RIG est une bibliothèque de rouille pour construire des applications évolutives, modulaires et ergonomiques alimentées par LLM .

Plus d'informations sur cette caisse peuvent être trouvées dans la documentation de la caisse.

Aidez-nous à améliorer la plate-forme en contribuant à notre formulaire de rétroaction.

Table des matières

• Qu'est-ce que RIG?
• Table des matières
• Caractéristiques de haut niveau
• Commencer
  • Exemple simple:
• Intégrations

Caractéristiques de haut niveau

• Prise en charge complète de l'achèvement de LLM et des workflows
• Des abstractions communes simples mais puissantes sur les fournisseurs de LLM (par exemple Openai, Cohere) et les magasins vectoriels (par exemple MongoDB, en mémoire)
• Intégrez les LLM dans votre application avec un minimum de passe-partout

Commencer

cargo add rig-core

Exemple simple:

 use rig :: { completion :: Prompt , providers :: openai } ;

# [ tokio :: main ]
async fn main ( ) {
    // Create OpenAI client and model
    // This requires the `OPENAI_API_KEY` environment variable to be set.
    let openai_client = openai :: Client :: from_env ( ) ;

    let gpt4 = openai_client . agent ( "gpt-4" ) . build ( ) ;

    // Prompt the model and print its response
    let response = gpt4
        . prompt ( "Who are you?" )
        . await
        . expect ( "Failed to prompt GPT-4" ) ;

    println ! ( "GPT-4: {response}" ) ;
}

Remarque L'utilisation de #[tokio::main] vous oblige à activer les fonctionnalités macros et rt-multi-thread de Tokio ou tout full pour activer toutes les fonctionnalités ( cargo add tokio --features macros,rt-multi-thread ).

Vous pouvez trouver plus d'exemples examples de chaque caisse (c.-à-d. src/examples ). Des procédures de cas d'utilisation plus détaillées sont régulièrement publiées sur notre blog Dev.to.

Intégrations prises en charge

Fournisseurs de modèles	Magasins vectoriels