insight chat
1.0.0
FASTAPI - O FASTAPI é uma estrutura moderna, rápida (de alto desempenho), para criar APIs com Python 3.7+ com base em dicas padrão do tipo Python.
Llamaindex - Llamaindex é uma estrutura de dados para aplicativos baseados em LLM que se beneficiam do aumento do contexto. Tais sistemas LLM foram denominados sistemas de pano, representando a "geração de recuperação para a recuperação". O Llamaindex fornece as abstrações essenciais para ingerir, estruturar e acessar mais facilmente dados privados ou específicos de domínio, a fim de injetá-los com segurança e confiabilidade no LLMS para uma geração de texto mais precisa.
Atlas MongoDB - Atlas MongoDB é um banco de dados em nuvem totalmente gerenciado desenvolvido pelas mesmas pessoas que constroem MongoDB.
Pesquisa de Vector Atlas - A Pesquisa de Vector Atlas permite pesquisar dados não estruturados. Você pode criar incorporações vetoriais com modelos de aprendizado de máquina como o OpenAI e abraçar o rosto, armazená -los e indexá -los no Atlas para geração aumentada de recuperação (RAG), pesquisa semântica, mecanismos de recomendação, personalização dinâmica e outros casos de uso.
NOTA: Você precisa criar um índice KNN para usar o Atlas Vector Search.
Atlas Search . Escolha o modo “JSON Editor” e defina o índice com o seguinte conteúdo: {
"mappings": {
"dynamic": true,
"fields": {
"embedding": {
"dimensions": 1536,
"similarity": "cosine",
"type": "knnVector"
}
}
}
}
Instale com poesia:
pip install poetry
poetry config virtualenvs.in-project true
poetry shell
poetry install
uvicorn app.main:app --host 127.0.0.1 --port 9080
docker build -t insight-chat .
docker run -d --name insight-chat -p 8080:8080 insight-chat
Em suma, o Llamaindex usa o seguinte padrão para armazenar informações de documentos:
O texto de um documento é dividido em vários nós, também conhecido como "pedaços"; Usando o ID do documento como chave primária, os objetos que representam cada documento, principalmente metadados, como nome de arquivo e hash, são armazenados no armazenamento de documentos, juntamente com a lista de nós para esse documento; Usando o ID do nó como chave primária, a incorporação do nó é armazenada no Vector Store.
As três implementações do MongoDB para as lojas são usadas neste projeto:
https://medium.com/@luoning.nici/llamaindex-ne-depth-practice-how-to-build-um-relável-storrage-subsystem-with-mongudb-atlas-f306bf2fb480
https://docs.llamaindex.ai/en/stable/index.html
https://www.mongodb.com/atlas
