AutClothingChatbot

聊天機器人服裝店

該存儲庫包含用於聊天機器人的源代碼，該聊天機器人是為服裝店的服裝顧問和網站指南。聊天機器人是使用由不整潔框架加載的微調大語言模型（LLM）構建的，以更快地推斷並利用檢索增強生成（RAG）方法，以從存儲在許多文本文件中的知識庫中檢索信息。

特徵

• 向客戶提供服裝建議和建議。
• 指導用戶如何瀏覽商店的網站。
• 使用高級語言處理功能來理解和響應用戶查詢。

安裝

要部署聊天機器人，請按照以下步驟：

1. 將此存儲庫克隆到您的本地計算機。

git clone https://github.com/QuangNguyen2910/AutClothingChatbot.git

2. 使用pip安裝requirements.txt中列出的所需依賴項：

在此命令中，我使用Colab內核並移至Autclothingchatbot文件夾：

 cd AutClothingChatbot
pip install -r requirements.txt

3. 將您要建模的任何文檔上傳到docs中獲取數據

4. 運行主腳本以啟動聊天機器人：

如果您不知道該放在解析器運行中：

python main.py --help

結果將是這樣：

 usage: parser.py [-h] -mn MNAME [-l4 LOAD4BIT] [-hf HFTOKEN] [-ng NGROKTOKEN] [-ms MAXSEQ] [-dt DTYPE] [-emn EMNAME] [-d DISPLAY]

Config for using LLMs.

optional arguments:
  -h, --help            show this help message and exit
  -mn MNAME, --mname MNAME
                        The path or name from hugging face of the model, example: "Quangnguyen711/clothes_shop_chatbot_QLoRA".
  -l4 LOAD4BIT, --load4bit LOAD4BIT
                        Whether to load in the model 4-bit or not, example: "True"/"False".
  -hf HFTOKEN, --hftoken HFTOKEN
                        Hugging face token to use for authentication, example: "hf_xxx".
  -ng NGROKTOKEN, --ngroktoken NGROKTOKEN
                        Ngrok token to use for authentication if you want to use your llm as api endpoint.
  -ms MAXSEQ, --maxseq MAXSEQ
                        Maximum sequence length for the input, example: "2048".
  -dt DTYPE, --dtype DTYPE
                        Data type for model weights, example: "None".
  -emn EMNAME, --emname EMNAME
                        The path or name from hugging face of the model use to embedd data, example: "thenlper/gte-small".
  -d DISPLAY, --display DISPLAY
                        Where to display the model, example: "kernel"/"api"/"deploy".

示例命令：

python main.py -mn " Quangnguyen711/clothes_shop_chatbot_QLoRA " 
-l4 " True " -hf " hf_xxx " -ng " xxx " -ms " 2048 " -dt " None " 
-emn " thenlper/gte-small " -d " deploy "

注意：對於某些型號，需要從擁抱面上的身份驗證令牌才能讀取。這將是您在運行此命令後獲得的接口，您可以使用此筆記本查看指令

用法

聊天機器人運行後，用戶可以通過在聊天接口中鍵入查詢或請求來與之進行交互。然後，聊天機器人將根據其知識庫中存儲的信息提供響應。

執照

該項目是根據MIT許可證獲得許可的 - 有關詳細信息，請參見許可證文件。

致謝

• 聊天機器人模型基於Meta的Llama 3 8B模型。
• 微調過程利用了Qlora方法，並使用不填充框架進行參數有效的微調。
• 抹布方法用於從知識庫中獲取信息。

接觸

有關任何查詢或支持，請聯繫Quang Nguyen。