ai starter kit

AI Starter Kit

Минимальная база кода для создания приложений для ИИ для ответа на вопросы (QA) по документам PDF полностью локально .

Этот проект вдохновлен местным-Стейк. Тем не менее, их стек полностью основан на JavaScript, и мне нужен был бэкэнд на основе Python, поэтому решил создать этот проект.

AI-Starter-kit-demo_3.mp4

Куча

• ? Вывод: Оллама
• Vectordb: Qdrant
• ? LLM Orchestration: Langchain
• ? ️ логика приложения: FASTAPI

Как начать

1. Клонировать это репо:

git clone https://github.com/mallahyari/ai-starter-kit.git

2. Установите зависимости бэкэнд:

 cd backend/app
pip install -r requirements.txt

3. Установить зависимости фронта:

 cd frontend
npm install

4. Начните базу данных Qdrant Vector (вам нужен Docker). Смотрите здесь для других вариантов информации:

docker run -p 6333:6333 qdrant/qdrant

5. Установите инструкции Ollama здесь

6. Запустите сервер FASTAPI (изнутри backend каталога):

python app/main.py

7. Откройте новый терминал и запустите сервер разработки React (с внутреннего frontend ):

npm start

Изменить конфигурации

Вы можете изменить конфигурации в .config Если вы планируете использовать Qdrant Cloud, вы можете или вы можете создать свой собственный файл .env и установить необходимые клавиши API.

Дополнительные варианты использования

Хотя текущее приложение поддерживает только PDF-файлы, очень просто добавлять другие типы файлов, таких как текстовые файлы, и т. Д. Кроме того, вы можете легко добавить открытый чат в дополнение к QA по варианту использования документов.

Обсуждение и вклад

Если у вас есть какие -либо комментарии или отзывы, пожалуйста, не стесняйтесь использовать раздел Discussions и откройте новую тему. Вы также можете обратиться напрямую через LinkedIn или Twitter