rig

Wenn Sie helfen möchten, das Wort über Rig zu verbreiten, sollten Sie das Repo mit der Hauptrolle in Betracht ziehen!

Warnung

Hier werden Drachen! RIG ist Alpha -Software und enthält Bruchänderungen, während sie sich weiterentwickelt. Wir werden sie kommentieren und Migrationspfade hervorheben, wenn wir ihnen begegnen.

Was ist Rig?

Rig ist eine Rostbibliothek zum Bau skalierbarer, modularer und ergonomischer LLM- Anträge.

Weitere Informationen zu dieser Kiste finden Sie in der Kistendokumentation.

Helfen Sie uns, das Rig zu verbessern, indem Sie zu unserem Feedback -Formular beigetragen werden.

Inhaltsverzeichnis

• Was ist Rig?
• Inhaltsverzeichnis
• Hochrangige Merkmale
• Fangen an
  • Einfaches Beispiel:
• Integrationen

Hochrangige Merkmale

• Vollständige Unterstützung für LLM -Fertigstellung und Einbettung von Workflows
• Einfache, aber leistungsstarke gemeinsame Abstraktionen über LLM-Anbieter (z. B. OpenAI, Cohere) und Vektorspeicher (z.
• Integrieren Sie LLMs in Ihre App mit minimaler Kesselplatte

Fangen an

cargo add rig-core

Einfaches Beispiel:

 use rig :: { completion :: Prompt , providers :: openai } ;

# [ tokio :: main ]
async fn main ( ) {
    // Create OpenAI client and model
    // This requires the `OPENAI_API_KEY` environment variable to be set.
    let openai_client = openai :: Client :: from_env ( ) ;

    let gpt4 = openai_client . agent ( "gpt-4" ) . build ( ) ;

    // Prompt the model and print its response
    let response = gpt4
        . prompt ( "Who are you?" )
        . await
        . expect ( "Failed to prompt GPT-4" ) ;

    println ! ( "GPT-4: {response}" ) ;
}

Hinweis mit #[tokio::main] erfordert, dass Sie macros und rt-multi-thread -Funktionen von Tokios aktivieren oder einfach nur full , um alle Funktionen zu aktivieren ( cargo add tokio --features macros,rt-multi-thread ).

Weitere Beispiele finden Sie in examples jeder Kasse (dh src/examples ). Detailliertere Anwendungsfälle durchlaufen werden regelmäßig in unserem Dev.TO -Blog veröffentlicht.

Unterstützte Integrationen

Modellanbieter	Vektorspeicher