Jessup Cellar RAG App

Помощник Джессапа?

Hessup's Helper-это чат-бот, основанный на поиске, который использует предварительно обученную модель Llama3-8B для генерации ответов на пользовательский ввод. GROQ использовался для почти мгновенного вывода из -за высокой скорости токена, и Google Gen Ai Studio API использовался для получения вторжений. Модель использует файл PDF для поиска информации и генерации ответов на основе контекста. Файл PDF можно найти в папке «PDFS».

Живая демонстрация

Проект размещен на потоковой линии и может быть доступен здесь.

Начиная

Эти инструкции помогут вам получить копию проекта и запущены на местной машине для целей разработки и тестирования.

Предварительные условия

Прежде всего, вам нужно будет клонировать репозиторий на местную машину. Вы можете сделать это, запустив следующую команду в своем терминале:

git clone https://github.com/soumyadeepbose/Jessup-Cellar-RAG-App.git

Далее вам нужно будет установить необходимые пакеты. Вы можете сделать это, запустив следующую команду в своем терминале:

pip install -r requirements.txt

Настройка переменных среды

Вам нужно будет настроить переменные среды. Для этого вам необходимо создать файл .env в корневом каталоге проекта. Файл .env должен содержать следующие переменные среды:

• GOOGLE_API_KEY : Это ключ API для API Google Gen Ai Studio. Вы можете получить это, следуя инструкциям здесь.

• GROQ_API_KEY : это ключ API для API Groq. Вы можете получить это, следуя инструкциям здесь.

Запуск приложения

Теперь, чтобы запустить приложение, вам нужно будет запустить следующую команду в вашем терминале:

streamlit run app.py

Автор

• Soumyadeep Bose?