AutClothingChatbot

Чат -бот для магазина одежды

Этот репозиторий содержит исходный код для чат -бота, разработанного для того, чтобы служить консультантом по одежде и руководству веб -сайта для магазина одежды. Чатбот построен с использованием тонкой настройки большой языковой модели (LLM), загруженной рамки Unsloth для более быстрого вывода, и использует метод получения добычи (RAG) для извлечения для извлечения информации из базы знаний, хранящейся во многих текстовых файлах.

Функции

• Предоставляет советы по одежде и рекомендации для клиентов.
• Руководство пользователей о том, как ориентироваться в веб -сайте магазина.
• Использует расширенные возможности обработки языка, чтобы понять и ответить на запросы пользователей.

Установка

Чтобы развернуть чат -бот, следуйте этим шагам:

1. Клонировать этот репозиторий на местную машину.

git clone https://github.com/QuangNguyen2910/AutClothingChatbot.git

2. Установите требуемые зависимости, перечисленные в requirements.txt , используя PIP:

В этой команде я использую ядро ​​Colab и перейду в папку Autclothingchatbot:

 cd AutClothingChatbot
pip install -r requirements.txt

3. Загрузите любой документ, который вы хотите docs

4. Запустите основной сценарий, чтобы запустить чат -бот:

Если вы не знаете, что поместить в пробег анализатора:

python main.py --help

Результат будет таким:

 usage: parser.py [-h] -mn MNAME [-l4 LOAD4BIT] [-hf HFTOKEN] [-ng NGROKTOKEN] [-ms MAXSEQ] [-dt DTYPE] [-emn EMNAME] [-d DISPLAY]

Config for using LLMs.

optional arguments:
  -h, --help            show this help message and exit
  -mn MNAME, --mname MNAME
                        The path or name from hugging face of the model, example: "Quangnguyen711/clothes_shop_chatbot_QLoRA".
  -l4 LOAD4BIT, --load4bit LOAD4BIT
                        Whether to load in the model 4-bit or not, example: "True"/"False".
  -hf HFTOKEN, --hftoken HFTOKEN
                        Hugging face token to use for authentication, example: "hf_xxx".
  -ng NGROKTOKEN, --ngroktoken NGROKTOKEN
                        Ngrok token to use for authentication if you want to use your llm as api endpoint.
  -ms MAXSEQ, --maxseq MAXSEQ
                        Maximum sequence length for the input, example: "2048".
  -dt DTYPE, --dtype DTYPE
                        Data type for model weights, example: "None".
  -emn EMNAME, --emname EMNAME
                        The path or name from hugging face of the model use to embedd data, example: "thenlper/gte-small".
  -d DISPLAY, --display DISPLAY
                        Where to display the model, example: "kernel"/"api"/"deploy".

Пример команды:

python main.py -mn " Quangnguyen711/clothes_shop_chatbot_QLoRA " 
-l4 " True " -hf " hf_xxx " -ng " xxx " -ms " 2048 " -dt " None " 
-emn " thenlper/gte-small " -d " deploy "

Примечание. Для какой -то модели требуется токен аутентификации от HuggingFaceface, чтобы быть прочитавшим. Это будет интерфейс, который вы получите после завершения выполнения этой команды, вы можете использовать этот ноутбук, чтобы увидеть инструкции

Использование

После того, как чат -бот работает, пользователи могут взаимодействовать с ним, вводя свои запросы или запросы в интерфейс чата. Затем чат -бот предоставит ответы на основе информации, хранящейся в ее базе знаний.

Лицензия

Этот проект лицензирован по лицензии MIT - для получения подробной информации см. Файл лицензии.

Благодарности

• Модель Чатбота основана на модели Llama 3 8b от Meta.
• Процесс тонкой настройки использует метод QLORA с помощью структуры USLOTH для эффективной точной настройки параметров.
• Метод RAG применяется для получения информации из базы знаний.

Контакт

Для любых запросов или поддержки, пожалуйста, свяжитесь с Quang Nguyen.