rig

Si desea ayudar a correr la voz sobre Rig, ¡considere protagonizar el repositorio!

Advertencia

¡Aquí hay dragones! Rig es software alfa y contendrá cambios de ruptura a medida que evoluciona. Los anotaremos y destacaremos las rutas de migración a medida que las encontramos.

¿Qué es la plataforma?

Rig es una biblioteca de óxido para construir aplicaciones escalables, modulares y ergonómicas con alimentación LLM .

Se puede encontrar más información sobre esta caja en la documentación de la caja.

Ayúdanos a mejorar la plataforma contribuyendo a nuestro formulario de retroalimentación.

Tabla de contenido

• ¿Qué es la plataforma?
• Tabla de contenido
• Características de alto nivel
• Empezar
  • Ejemplo simple:
• Integración

Características de alto nivel

• Soporte completo para la finalización de LLM e incrustación de flujos de trabajo
• Abstracciones comunes simples pero potentes sobre proveedores de LLM (por ejemplo, OpenAi, Cohere) y tiendas vectoriales (por ejemplo, MongoDB, In Memory)
• Integre LLM en su aplicación con mínimo de calderas

Empezar

cargo add rig-core

Ejemplo simple:

 use rig :: { completion :: Prompt , providers :: openai } ;

# [ tokio :: main ]
async fn main ( ) {
    // Create OpenAI client and model
    // This requires the `OPENAI_API_KEY` environment variable to be set.
    let openai_client = openai :: Client :: from_env ( ) ;

    let gpt4 = openai_client . agent ( "gpt-4" ) . build ( ) ;

    // Prompt the model and print its response
    let response = gpt4
        . prompt ( "Who are you?" )
        . await
        . expect ( "Failed to prompt GPT-4" ) ;

    println ! ( "GPT-4: {response}" ) ;
}

Nota El uso de #[tokio::main] requiere que habilite macros de Tokio y las características rt-multi-thread o simplemente full para habilitar todas las características ( cargo add tokio --features macros,rt-multi-thread ).

Puede encontrar más ejemplos examples de cada caja (es decir, directorio src/examples ). Los tutoriales de casos de uso más detallados se publican regularmente en nuestro blog Dev.to.

Integraciones compatibles

Proveedores de modelos	Tiendas de vectores