rig

Если вы хотите помочь распространить информацию о Rig, пожалуйста, подумайте о том, чтобы снять в главной роли репо!

Предупреждение

Здесь будь драконами! Rig - это альфа -программное обеспечение и будет содержать нарушающие изменения по мере развития. Мы аннотируем их и выделим пути миграции, когда мы их встречаем.

Что такое установка?

Rig-это библиотека Rust для масштабируемого, модульного и эргономичного LLM- применения.

Более подробную информацию об этом ящике можно найти в документации Crate.

Помогите нам улучшить установку, способствуя нашей форме обратной связи.

Оглавление

• Что такое установка?
• Оглавление
• Высокие функции
• Начните
  • Простой пример:
• Интеграции

Высокие функции

• Полная поддержка завершения LLM и встраивания рабочих процессов
• Простые, но мощные общие абстракции по провайдерам LLM (например, Openai, Cohere) и векторные магазины (например, MongoDB, в памяти)
• Интегрируйте LLMS в ваше приложение с минимальным патроном

Начните

cargo add rig-core

Простой пример:

 use rig :: { completion :: Prompt , providers :: openai } ;

# [ tokio :: main ]
async fn main ( ) {
    // Create OpenAI client and model
    // This requires the `OPENAI_API_KEY` environment variable to be set.
    let openai_client = openai :: Client :: from_env ( ) ;

    let gpt4 = openai_client . agent ( "gpt-4" ) . build ( ) ;

    // Prompt the model and print its response
    let response = gpt4
        . prompt ( "Who are you?" )
        . await
        . expect ( "Failed to prompt GPT-4" ) ;

    println ! ( "GPT-4: {response}" ) ;
}

Примечание с использованием #[tokio::main] требует, чтобы вы включили macros Tokio и функции rt-multi-thread или просто full для включения всех функций ( cargo add tokio --features macros,rt-multi-thread ).

Вы можете найти больше примеров examples каждого ящика (т.е. src/examples ). Более подробные варианты использования регулярно публикуются в нашем блоге Dev.to.

Поддерживаемая интеграция

Поставщики моделей	Векторные магазины