Seerat e Nabi Model with Llama Index

Modelo Seerat-e-Nabi com índice de llama

Este projeto é um aplicativo da Web que usa um back-end FASTAPI para fornecer respostas a perguntas sobre o modelo Seerat-e-Nabi usando o índice de llama para armazenamento e consulta vetorial.

Características

• Integração do FASTAPI : Uma estrutura leve da Web para lidar com solicitações de API.
• Índice de LLama : utiliza o índice de llama para armazenar e consultar vetores de documentos.
• Carregamento do modelo dinâmico : carrega e persiste automaticamente o índice, garantindo consulta eficiente.

Estrutura de arquivo

• main.py : arquivo de aplicativo principal usando o FASTAPI para configurar pontos de extremidade.
• llama_model.py : script para carregar dados, criar um índice e consultar ele usando o índice de llama.
• clean.py : pré -processos dados brutos para criar um conjunto de dados limpo adequado para indexação.

Componentes -chave

Aplicativo FASTAPI ( main.py )

• Terminais :
  • GET / : Verificação simples de saúde retornando "OK".
  • GET /response/{question} : aceita uma pergunta e retorna a resposta do modelo.
• Configuração do servidor : Executa o servidor na port 8000 com recarregamento ativado.

Modelo de lhama ( llama_model.py )

• Carregamento e indexação de dados :
  • Carrega documentos de um diretório especificado.
  • Cria e persiste um índice de loja de vetores.
• Manuseio de consulta :
  • Fornece uma função para consultar o índice e buscar respostas.

Pré -processamento de dados ( clean.py )

• Limpeza de dados :
  • Remove caracteres não alfanuméricos e linhas vazias.
  • Filtra as linhas com menos de três palavras.
• Salvar dados limpos : salva os dados pré -processados ​​em um novo arquivo.

Desafios e soluções

• Integração do modelo : garantindo a integração perfeita do índice de llama com o FASTAPI exigindo manuseio cuidadoso do carregamento e indexação de dados.
• Pré -processamento de dados : Limpeza e preparação dos dados para criar um índice significativo envolveu várias etapas de pré -processamento.
• Consulta eficiente : Implementando um sistema para consultar com eficiência o índice e fornecer respostas exigindo mecanismos robustos de indexação e manuseio de consultas.

Começando

1. Clone o repositório.
2. Instalar as dependências necessárias.
3. Execute o aplicativo FASTAPI.

git clone https://github.com/faisal-fida/seerat-e-nabi-model-llama-index.git
cd seerat-e-nabi-model-llama-index
pip install -r requirements.txt
uvicorn main:app --reload

Conclusão

Este projeto demonstra a integração do FASTAPI com o índice de llama para criar um aplicativo da Web responsivo capaz de responder perguntas com base em dados indexados. Ele destaca as complexidades da integração do modelo, pré -processamento de dados e consulta eficiente.

Sinta -se à vontade para contribuir ou levantar problemas se encontrar algum problema!