Repositori ini berisi kode sumber untuk chatbot yang dikembangkan untuk berfungsi sebagai penasihat pakaian dan panduan situs web untuk toko pakaian. Chatbot dibangun menggunakan model bahasa besar (LLM) yang disesuaikan yang dimuat oleh kerangka kerja yang tidak terasa untuk inferensi yang lebih cepat dan memanfaatkan metode pengambilan augmented generasi (RAG) untuk mengambil informasi dari basis pengetahuan yang disimpan dalam banyak file teks.
Untuk menggunakan chatbot, ikuti langkah -langkah ini:
git clone https://github.com/QuangNguyen2910/AutClothingChatbot.gitrequirements.txt menggunakan PIP:Dalam perintah ini, saya menggunakan kernel colab dan pindah ke folder AutclothingChatbot:
cd AutClothingChatbot
pip install -r requirements.txt Unggah dokumen apa pun yang ingin Anda modelkan mendapatkan data dari ke dalam docs
Jalankan skrip utama untuk memulai chatbot:
Jika Anda tidak tahu apa yang harus dijalankan dalam menjalankan parser:
python main.py --helpHasilnya akan seperti ini:
usage: parser.py [-h] -mn MNAME [-l4 LOAD4BIT] [-hf HFTOKEN] [-ng NGROKTOKEN] [-ms MAXSEQ] [-dt DTYPE] [-emn EMNAME] [-d DISPLAY]
Config for using LLMs.
optional arguments:
-h, --help show this help message and exit
-mn MNAME, --mname MNAME
The path or name from hugging face of the model, example: "Quangnguyen711/clothes_shop_chatbot_QLoRA".
-l4 LOAD4BIT, --load4bit LOAD4BIT
Whether to load in the model 4-bit or not, example: "True"/"False".
-hf HFTOKEN, --hftoken HFTOKEN
Hugging face token to use for authentication, example: "hf_xxx".
-ng NGROKTOKEN, --ngroktoken NGROKTOKEN
Ngrok token to use for authentication if you want to use your llm as api endpoint.
-ms MAXSEQ, --maxseq MAXSEQ
Maximum sequence length for the input, example: "2048".
-dt DTYPE, --dtype DTYPE
Data type for model weights, example: "None".
-emn EMNAME, --emname EMNAME
The path or name from hugging face of the model use to embedd data, example: "thenlper/gte-small".
-d DISPLAY, --display DISPLAY
Where to display the model, example: "kernel"/"api"/"deploy".
Contoh Perintah:
python main.py -mn " Quangnguyen711/clothes_shop_chatbot_QLoRA "
-l4 " True " -hf " hf_xxx " -ng " xxx " -ms " 2048 " -dt " None "
-emn " thenlper/gte-small " -d " deploy " CATATAN: Untuk beberapa model memerlukan token otentikasi dari Huggingface untuk dibaca.
Ini akan menjadi antarmuka yang Anda dapatkan setelah selesai menjalankan perintah ini, Anda dapat menggunakan buku catatan ini untuk melihat instruksi
Setelah chatbot berjalan, pengguna dapat berinteraksi dengannya dengan mengetik pertanyaan atau permintaan mereka ke antarmuka obrolan. Chatbot kemudian akan memberikan tanggapan berdasarkan informasi yang disimpan dalam basis pengetahuannya.
Proyek ini dilisensikan di bawah lisensi MIT - lihat file lisensi untuk detailnya.
Untuk pertanyaan atau dukungan apa pun, silakan hubungi Quang Nguyen.