rags

Тряпки

Build.a.rags.bot.powered.by.llamaindex .-. 26.napember.2023.mp4

RAGS - это приложение для потока, которое позволяет создавать Rag Pipeline из источника данных с использованием естественного языка.

Вы можете сделать следующее:

1. Опишите свою задачу (например, «Загрузите эту веб -страницу») и параметры, которые вы хотите из ваших тряпичных систем (например, я хочу получить x Количество документов »)
2. Зайдите в представление конфигурации и представление/изменение сгенерированных параметров (Top-K, суммирование и т. Д.) По мере необходимости.
3. Запросите агента Rag на данные с вашими вопросами.

Этот проект вдохновлен GPTS, запущенный OpenAI.

Установка и настройка

Клонировать этот проект, зайдите в папку проекта rags . Мы рекомендуем создать виртуальную Env для зависимостей ( python3 -m venv .venv ).

 poetry install --with dev

По умолчанию мы используем OpenAI как для агента Builder, так и для сгенерированного агента RAG. Добавить .streamlit/secrets.toml в домашней папке.

Затем поместите следующее:

 openai_key = "<openai_key>"

Затем запустите приложение из файла «домашняя страница».

streamlit run 1_?_Home.py

ПРИМЕЧАНИЕ . Если вы обновили версию RAGS, и вы сталкиваетесь с проблемами запуска, вам, возможно, потребуется удалить папку cache в вашем домашнем каталоге (мы могли ввести нарушающие изменения в хранимой структуре данных между версиями).

Подробный обзор

Приложение содержит следующие разделы, соответствующие шагам, перечисленным выше.

1.? Домашняя страница

Это раздел, в котором вы строите тряпичный трубопровод, инструктируя «агент строителя». Обычно для настройки тряпичного трубопровода вам нужны следующие компоненты:

1. Опишите набор данных. В настоящее время мы поддерживаем либо один локальный файл или веб -страницу . Мы открыты для предложений здесь!
2. Опишите задачу. Конкретно это описание будет использовано для инициализации «системы системы» LLM, питающей трубопровод Rag.
3. Определите типичные параметры для настройки тряпки. Смотрите раздел ниже для списка параметров.

2. Rag Config

Этот раздел содержит параметры RAG, сгенерированные «агентом строителя» в предыдущем разделе. В этом разделе у вас есть пользовательский интерфейс, демонстрирующий сгенерированные параметры, и у вас есть полная свобода, чтобы вручную редактировать/изменять их по мере необходимости.

В настоящее время набор параметров заключается в следующем:

• Системная подсказка
• Включите суммирование: следует ли также добавить инструмент суммирования (вместо того, чтобы выполнять только поиск Top-K.)
• Top-K
• Размер куски
• Встроенная модель
• LLM

Если вы вручную измените параметры, вы можете нажать кнопку «Агент обновления», чтобы обновить агент.

 If you don't see the `Update Agent` button, that's because you haven't created the agent yet. Please go to the previous "Home" page and complete the setup process.

Мы всегда можем добавить больше параметров, чтобы сделать это более «продвинутым», но подумали, что это будет хорошим местом для начала.

3. Сгенерированный тряпичный агент

Как только ваш Ag Agent создается, у вас есть доступ к этой странице.

Это стандартный интерфейс чатбота, где вы можете запросить агент RAG, и он ответит на вопросы по вашим данным.

Он сможет выбрать правильные инструменты Rag (либо Vector Sector, или, необязательно, суммирование), чтобы выполнить запрос.

Поддерживаемые LLMS и встраивание

Строитель агент

По умолчанию агент Builder использует OpenAI. Это определено в файле core/builder_config.py .

Вы можете настроить это на любой LLM, который вы хотите (пример приведен для антропного).

Обратите внимание, что варианты GPT-4 дадут наиболее надежные результаты с точки зрения фактического построения агента (мы не могли заставить Клода работать).

Сгенерированный тряпичный агент

Вы можете установить конфигурацию либо через естественный язык, либо вручную как для модели встраивания, так и для LLM.

• LLM : Мы поддерживаем следующие LLM, но вам нужно явно указать идентификатор агенту застройщика.
  • OpenAI: ID-«OpenAI: <DOMEL_NAME>" EG "OPENAI: GPT-4-1106-PREVIEW"
  • Антропический: ID-«Антропный: <dolidy_name>», например, антропический: Claude-2 »
  • Replicate: ID - «Replicate: <dolidy_name>»
  • HuggingFace: ID "Local: <dolidy_name>" Eg "Local: baai/bge-small-en"
• Entgeddings : по умолчанию поддерживает текстовые вводные вкладки-002, но также поддерживает модели обнимающих лиц. Чтобы использовать модель обнимающего лица, просто приготовьте с местным, например, локальный: Baai/bge-small-en.

Ресурсы

Столкнуться с проблемами? Пожалуйста, подайте проблему GitHub или присоединяйтесь к нашему разногласию.

Это приложение было построено из Python Lmaindex.

Смотрите наш пост в блоге запуска здесь.