insight chat
1.0.0
FASTAPI - FASTAPI - это современный, быстрый (высокопроизводительный), веб -структура для создания API с Python 3.7+ на основе стандартных подсказок типа Python.
LmamainDex - LmamainDex - это структура данных для приложений на основе LLM, которые выигрывают от увеличения контекста. Такие системы LLM были названы тряпичными системами, которые стоит для «поиска-аутентифицированного поколения». LmamainDex предоставляет основные абстракции для более легкого проглатывания, структуры и доступа к частным или конкретным данным данных, чтобы безопасно и надежно ввести их в LLMS для более точной генерации текста.
Mongodb Atlas - Mongodb Atlas - это полностью управляемая облачная база данных, разработанная теми же людьми, которые строят MongoDB.
Поиск вектора Atlas - Поиск вектора Atlas позволяет искать неструктурированные данные. Вы можете создавать векторные встроения с моделями машинного обучения, такими как OpenAI и обнимающееся лицо, а также хранить и индексировать их в атласе для поиска добыченного поколения (RAG), семантического поиска, рекомендательных двигателей, динамической персонализации и других вариантов использования.
Примечание. Вам нужно создать индекс KNN для использования Vector Secter Atlas.
Atlas Search таблете. Выберите режим «Редактор JSON» и установите индекс с следующим контентом: {
"mappings": {
"dynamic": true,
"fields": {
"embedding": {
"dimensions": 1536,
"similarity": "cosine",
"type": "knnVector"
}
}
}
}
Установить с поэзией:
pip install poetry
poetry config virtualenvs.in-project true
poetry shell
poetry install
uvicorn app.main:app --host 127.0.0.1 --port 9080
docker build -t insight-chat .
docker run -d --name insight-chat -p 8080:8080 insight-chat
Короче говоря, LlamainDex использует следующую шаблон для хранения информации о документах:
Текст документа разделен на несколько узлов, также известных как «куски»; Используя идентификатор документа в качестве первичного ключа, объекты, представляющие каждый документ, в основном метаданные, такие как имя файла и хэш, хранятся в хранилище документов, а также список узлов для этого документа; Используя идентификатор узла в качестве первичного ключа, встраивание узла хранится в векторный магазин.
Три реализации MongoDB для магазинов используются в этом проекте:
https://medium.com/@luoning.nici/llamaindex-in-depth-practice-how-tobuild-a-lemife-storage-subsystem-with-mongodb-atlas-f306bf2fb480
https://docs.llamaindex.ai/en/stable/index.html
https://www.mongodb.com/atlas
