LLM Pandoras

Inglês | 简体中文 |

O LLM-WorkBench é um kit de ferramentas para treinamento, ajuste fino e visualizando modelos de linguagem usando o streamlit. É muito adequado para pesquisadores e entusiastas da IA.

Características

• ? Q&A da Base de Conhecimento : Fornecemos várias maneiras de recuperação de conhecimento, onde o ES usa 8.9.0 Pesquisa híbrida para procurar fragmentos de conhecimento relevantes com base na entrada e resposta.
• Perguntas e respostas do Excel : Usamos o ChatGlm3 para gerar código Python correspondente com base na pergunta e usamos o kernel para executar o código relevante para retornar o resultado.
• ? Treinamento do modelo : com nosso kit de ferramentas, você pode treinar facilmente seu próprio modelo de idioma.
• ? Modelo Fina de ajuste : fornecemos uma maneira simples de ajustar seu modelo para se adaptar melhor à sua tarefa específica.
• Visualização do modelo : Nosso kit de ferramentas inclui algumas ferramentas de visualização que podem ajudá -lo a entender melhor o seu modelo.

? Instalação do Docker-Compose

Instale o Elasticsearch (abra a porta do servidor correspondente de acordo com o arquivo Docker-Compose ou personalize-o):

 cd docker/es
docker-compose up -d

Para usar as perguntas e respostas da Base de Conhecimento, você precisa construir o índice correspondente:

Método um: você pode instalar o LLM-WorkBench com o seguinte comando:

 cd LLM-Workbench
docker-compose up -d

Para o caso de usar perguntas e respostas da tabela do Excel, você precisa entrar no contêiner e especificar o intérprete do kernel:

 ipython kernel install --name llm --user

Onde, LLM corresponde ao nome do ambiente do ANACA.

? Uso

Método dois: depois de instalar o LLM-WorkBench, você pode iniciá-lo com o seguinte comando:

 pip install -r requirements.txt
streamlit run chat-box.py

Em seguida, você pode abrir o URL exibido no seu navegador para começar a usar o LLM-WorkBench.

? Contribuição

Congratulamo -nos com qualquer forma de contribuição! Se você tiver alguma dúvida ou sugestão, sinta -se à vontade para criá -las no Github.

? Licença

O LLM-Workbench é liberado sob a licença do MIT. Para mais detalhes, consulte o arquivo de licença.

? Contate-nos

Se você tiver alguma dúvida ou sugestão, sinta -se à vontade para nos perguntar por e -mail ou github.

História da estrela