O Tove of Knowledge (TOK) é uma aplicação de geração de recuperação (RAG)totalmente local , de alta qualidade e de recuperação extensível que aproveita os modelos e índices de IA para consultar documentos e gerar respostas contextualmente precisas. Com o Tok, você pode fazer upload de documentos e receber respostas mais informadas adaptadas às suas consultas. Além disso, o aplicativo armazena automaticamente seus bate -papos, permitindo revisitar e continuar conversas a qualquer momento.
Índice
? Características
Pré -requisitos
Começando
Uso
? Demoção de vídeo
? Tour Visual
Resultados
Características
? Aste totalmente local, seguro e focado na privacidade: o TOK garante que todas as operações sejam executadas localmente, mantendo seus dados privados e seguros.
Upload de documentos versáteis: faça upload de vários tipos de documentos e pastas de texto para criar um índice para respostas de IA mais informadas.
? Aste Metadados opcionais Tarefa: aprimore os uploads de documentos com metadados personalizados, tornando seus dados mais organizados e acessíveis.
Configurações abrangentes da interface do usuário: Acesse facilmente e modifique configurações importantes, como opções de crise, temperatura, tamanho da janela de contexto e modo de bate -papo através da interface do usuário.
✍️ Prompts personalizados: Adicione e use instruções personalizadas para o Modelo de Linguagem Grande (LLM) e o mecanismo de bate -papo, adaptando as respostas às suas necessidades.
Bats persistentes com títulos: os bate -papos são salvos com títulos personalizáveis, permitindo que você revise e continue mais tarde.
Histórico de bate -papo persistente: acessar e revisar conversas anteriores a qualquer momento.
? Seleção de modelos da Ollama: escolha e puxe os modelos de IA diretamente do Ollama para tarefas e preferências específicas.
⏳ Respostas de streaming com trechos inteligentes: experimente respostas em tempo real com formatação de saída inteligente, especialmente para trechos de código.
? Extensible: estenda facilmente a funcionalidade de Tok com recursos ou integrações adicionais.
Pré -requisitos
Para executar o Tok, você precisará instalar duas dependências:
Ollama: facilita o download, porção, porção e carregamento de dispositivos inteligentes. ( obrigatório )
NEO4J Desktop: Usado para lojas de vetor e gráfico de primeira linha. ( Instale se estiver em execução sem o Docker / com o EXE em lançamentos ou para fins de pesquisa )
Configurando neo4j (se a área de trabalho neo4j estiver instalada)
Faça o download e instale o Neo4J Desktop .
Adicione o caminho Neo4J Bin à variável de ambiente de caminho do seu sistema. Isso permite que o Neo4J seja acessado por Tok.
Exemplo Bin Path para Windows: pathtouser.Neo4jDesktoprelate-datadbmssyour-current-dbmsbin
(Para Windows) Ative a CLI da NEO4J executando o seguinte comando no prompt de comando ou PowerShell for windows:
neo4j windows-service install
Por favor, analise este link para executar as etapas acima para outros arcos (e para referência).
Começando
Você tem duas opções principais para executar tok:
Opção 1: Executando o Tok com o Docker (recomendado)
Certifique -se de ter o Docker e o Docker compostos instalados em sua máquina.
Clone o repositório:
git clone https://github.com/gurveervirk/ToK.git
Navegue até o diretório que contém o arquivo docker-compose.yml :
cd ToK/docker
Sirva Ollama no seu sistema local. ( o aplicativo pode servir automaticamente )
ollama serve
Inicie o aplicativo com o Docker Compose:
docker-compose up -d
Opção 2: executando o Tok Executável (depreciado) (não mantido mais)
Visite a página de lançamentos e faça o download do último ToK.exe para um local/diretório (o aplicativo cria arquivos e pastas necessários para o trabalho correto).
Modifique as configurações executando o aplicativo uma vez e clicando no ícone Configurações no canto superior direito:
Nome de usuário: substitua o nome de usuário do banco de dados NEO4J.
Senha: substitua pela senha definida no seu projeto Neo4J.
URI: Substitua pelo URI do seu projeto Neo4J.
Nota: o nome de usuário padrão e o URI são os valores padrão para um db neo4j. Você também pode modificá -lo no settings.json , criado pelo aplicativo.
Feito! Agora você está pronto para começar a usar tok.
Uso
Depois de concluir a configuração:
Lançar tok .
Escolha conversar diretamente com os documentos de bot ou fazer upload do botão superior direito para obter respostas de consulta aprimoradas.
Aproveite a experiência perfeita de interagir com um assistente de conhecimento de IA, administrado localmente, que mantém seus dados privados e seguros.
Nota: Ao criar um novo bate -papo imediatamente após solicitar o mecanismo de LLM / bate -papo, o último bate -papo pode não estar visível na barra lateral, além de conversar, não está disponível por alguns segundos. Isso pode ser devido ao fato de o novo bate-papo ser armazenado com um título gerado por LLM.
Demoção de vídeo
Assista ao vídeo abaixo para ver Tok em ação:
Tour Visual
Explore os principais recursos e a interface do usuário do Tok através das imagens abaixo:
Carregar modal
Configurações modal
Solicita modal
Resultados
Este aplicativo foi testado com sucesso em um subconjunto do conjunto de dados Triviaqa, e os resultados são os seguintes:
Encontre o código para os resultados acima neste link.