AutClothingChatbot

Chatbot para loja de roupas

Este repositório contém o código -fonte de um chatbot desenvolvido para servir como consultor de roupas e guia do site para uma loja de roupas. O chatbot é construído usando um modelo de linguagem grande e ajustado (LLM) carregado por uma estrutura não-lotada para inferência mais rápida e aproveita o método de geração aumentada de recuperação (RAG) para recuperar informações de uma base de conhecimento armazenada em muitos arquivos de texto.

Características

• Fornece conselhos e recomendações de roupas para os clientes.
• Guia os usuários sobre como navegar no site da loja.
• Usa recursos avançados de processamento de linguagem para entender e responder às consultas do usuário.

Instalação

Para implantar o chatbot, siga estas etapas:

1. Clone este repositório para sua máquina local.

git clone https://github.com/QuangNguyen2910/AutClothingChatbot.git

2. Instale as dependências necessárias listadas no requirements.txt usando o PIP:

Neste comando, eu uso o kernel colab e passo para a pasta AutomClothingChatbot:

 cd AutClothingChatbot
pip install -r requirements.txt

3. Faça o upload de qualquer documento que você queira modelar os dados de obter dados em docs

4. Execute o script principal para iniciar o chatbot:

Se você não sabe o que colocar na execução do analisador:

python main.py --help

O resultado será assim:

 usage: parser.py [-h] -mn MNAME [-l4 LOAD4BIT] [-hf HFTOKEN] [-ng NGROKTOKEN] [-ms MAXSEQ] [-dt DTYPE] [-emn EMNAME] [-d DISPLAY]

Config for using LLMs.

optional arguments:
  -h, --help            show this help message and exit
  -mn MNAME, --mname MNAME
                        The path or name from hugging face of the model, example: "Quangnguyen711/clothes_shop_chatbot_QLoRA".
  -l4 LOAD4BIT, --load4bit LOAD4BIT
                        Whether to load in the model 4-bit or not, example: "True"/"False".
  -hf HFTOKEN, --hftoken HFTOKEN
                        Hugging face token to use for authentication, example: "hf_xxx".
  -ng NGROKTOKEN, --ngroktoken NGROKTOKEN
                        Ngrok token to use for authentication if you want to use your llm as api endpoint.
  -ms MAXSEQ, --maxseq MAXSEQ
                        Maximum sequence length for the input, example: "2048".
  -dt DTYPE, --dtype DTYPE
                        Data type for model weights, example: "None".
  -emn EMNAME, --emname EMNAME
                        The path or name from hugging face of the model use to embedd data, example: "thenlper/gte-small".
  -d DISPLAY, --display DISPLAY
                        Where to display the model, example: "kernel"/"api"/"deploy".

Exemplo de comando:

python main.py -mn " Quangnguyen711/clothes_shop_chatbot_QLoRA " 
-l4 " True " -hf " hf_xxx " -ng " xxx " -ms " 2048 " -dt " None " 
-emn " thenlper/gte-small " -d " deploy "

Nota: Para algum modelo, é necessário um token de autenticação do HuggingFace para ser lido. Esta será a interface que você terá depois de terminar a execução deste comando, você pode usar este notebook para ver as instruções

Uso

Depois que o chatbot estiver em execução, os usuários podem interagir com ele digitando suas consultas ou solicitações na interface de bate -papo. O chatbot fornecerá respostas com base nas informações armazenadas em sua base de conhecimento.

Licença

Este projeto está licenciado sob a licença do MIT - consulte o arquivo de licença para obter detalhes.

Agradecimentos

• O modelo de chatbot é baseado no modelo LLAMA 3 8B por meta.
• O processo de ajuste fino utiliza o método QLORA com a estrutura não lotada para ajuste fino com eficiência de parâmetro.
• O método RAG é aplicado para recuperação de informações da base de conhecimento.

Contato

Para qualquer pergunta ou apoio, entre em contato com Quang Nguyen.