llm chain

LLM-цепь

llm-chain -это коллекция ящиков ржавчины, предназначенной для того, чтобы помочь вам создать расширенные приложения LLM, такие как чат-боты, агенты и многое другое. В качестве комплексной платформы LLM-OPS мы имеем сильную поддержку как облачных, так и для локальных LLMS. Мы также обеспечиваем надежную поддержку для быстрых шаблонов и цепочки подсказкам в многостадочных цепях, что позволяет сложным задачам, с которыми LLMS не может обрабатывать за один шаг. Мы также предоставляем интеграции векторного магазина, позволяя вам легко предоставить вашей модели долговременную память и знания предмета. Это дает вам возможность создавать сложные приложения.

Примеры

Чтобы помочь вам начать, вот пример, демонстрирующий, как использовать llm-chain . Вы можете найти больше примеров в папке примеров в репозитории.

 let exec = executor ! ( ) ? ;
let res = prompt ! (
    "You are a robot assistant for making personalized greetings" ,
    "Make a personalized greeting for Joe"
)
. run ( parameters ( ) ! , & exec )
. await ? ;
println ! ( "{}" , res ) ;

➡ Учебное пособие: Начните работать с LLM-цепью ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ ➡ quick quick quick waft start start in the explate

Функции ?

• Шаблоны приглашения : Создайте повторно используемые и легко настраиваемые шаблоны приглашения для последовательных и структурированных взаимодействий с LLMS.
• Цепи : создайте мощные цепочки подсказок, которые позволяют вам выполнять более сложные задачи, шаг за шагом, используя весь потенциал LLMS.
• Поддержка CHATGPT : поддерживает модели CHATGPT, с планами добавить другие модели OpenAI в будущем.
• Поддержка LLAMA : обеспечивает бесшовную интеграцию с моделями LLAMA, что позволяет получить задачи по пониманию естественного языка и генерации с помощью исследовательских моделей Facebook.
• Поддержка Alpaca : включает в себя поддержку моделей Alpaca в Стэнфорде, расширяя диапазон доступных языковых моделей для расширенных приложений искусственного интеллекта.
• Поддержка llm.rs : Используйте LLMS в Rust без зависимостей от C ++ Code с нашей поддержкой llm.rs
• Инструменты : улучшите возможности ваших агентов AI, предоставляя им доступ к различным инструментам, таким как запуск команд BASH, выполнение сценариев Python или выполнение веб -поисков, обеспечивая более сложные и мощные взаимодействия.
• Расширимость : разработан с учетом расширяемости, что позволяет легко интегрировать дополнительные LLM по мере роста экосистемы.
• Направленное сообществом : мы приветствуем и поощряем вклад сообщества, чтобы помочь улучшить и расширить возможности llm-chain .

Начиная

Чтобы начать использование llm-chain , добавьте ее в качестве зависимости в вашем Cargo.toml .

[ dependencies ]
llm-chain = " 0.12.0 "
llm-chain-openai = " 0.12.0 "

Примеры для llm-chain-openai требуют, чтобы вы установили переменную среды OPENAI_API_KEY , которую вы можете сделать в этом:

 export OPENAI_API_KEY= " sk-YOUR_OPEN_AI_KEY_HERE "

Затем обратитесь к документации и примерам, чтобы узнать, как создавать быстрые шаблоны, цепочки и многое другое.

Внести свой вклад?

Мы тепло приветствуем вклад всех! Если вы заинтересованы в помощи в улучшении llm-chain , пожалуйста, ознакомьтесь с нашим файлом CONTRIBUTING.md для руководящих принципов и лучших практик.

Лицензия?

llm-chain лицензирована по лицензии MIT.

Связаться с нами

Если у вас есть какие -либо вопросы, предложения или отзывы, не стесняйтесь открывать проблему или присоединиться к нашему сообществу. Мы всегда рады услышать от наших пользователей и узнать о вашем опыте работы с llm-chain .

Мы надеемся, что вам понравится использовать llm-chain , чтобы раскрыть весь потенциал крупных языковых моделей в ваших проектах. Счастливого кодирования! ?