rig

Jika Anda ingin membantu menyebarkan berita tentang rig, silakan pertimbangkan membintangi repo!

Peringatan

Di sini menjadi naga! Rig adalah perangkat lunak alfa dan akan berisi perubahan yang melanggar saat berkembang. Kami akan memberi anotasi kepada mereka dan menyoroti jalur migrasi saat kami bertemu mereka.

Apa itu rig?

Rig adalah perpustakaan karat untuk membangun aplikasi bertenaga LLM yang dapat diskalakan, modular, dan ergonomis.

Informasi lebih lanjut tentang peti ini dapat ditemukan dalam dokumentasi peti.

Bantu kami meningkatkan rig dengan berkontribusi pada formulir umpan balik kami.

Daftar isi

• Apa itu rig?
• Daftar isi
• Fitur tingkat tinggi
• Mulai
  • Contoh sederhana:
• Integrasi

Fitur tingkat tinggi

• Dukungan penuh untuk penyelesaian LLM dan menyematkan alur kerja
• Abstraksi umum yang sederhana namun kuat atas penyedia LLM (mis. Openai, cohere) dan toko vektor (misalnya MongoDB, dalam memori)
• Integrasikan LLM di aplikasi Anda dengan boilerplate minimal

Mulai

cargo add rig-core

Contoh sederhana:

 use rig :: { completion :: Prompt , providers :: openai } ;

# [ tokio :: main ]
async fn main ( ) {
    // Create OpenAI client and model
    // This requires the `OPENAI_API_KEY` environment variable to be set.
    let openai_client = openai :: Client :: from_env ( ) ;

    let gpt4 = openai_client . agent ( "gpt-4" ) . build ( ) ;

    // Prompt the model and print its response
    let response = gpt4
        . prompt ( "Who are you?" )
        . await
        . expect ( "Failed to prompt GPT-4" ) ;

    println ! ( "GPT-4: {response}" ) ;
}

Catatan Menggunakan #[tokio::main] mengharuskan Anda mengaktifkan fitur macros Tokio dan rt-multi-thread atau hanya full untuk mengaktifkan semua fitur ( cargo add tokio --features macros,rt-multi-thread ).

Anda dapat menemukan lebih banyak examples Direktori masing -masing peti (mis. src/examples ). Panduan Penggunaan Kasus yang Lebih Detail Diterbitkan Secara Rutin Di Blog Dev.to kami.

Integrasi yang didukung

Penyedia Model	Toko vektor