ดาวน์โหลด E Commerce_ChatBot - E Commerce_ChatBot ซอร์สโค้ดดาวน์โหลดดาวน์โหลด

e-commerce chatbot โดยใช้ rag กับ llama และ langchain

การแนะนำ

โครงการนี้เป็น chatbot อีคอมเมิร์ซ ที่สร้างขึ้นโดยใช้วิธี การดึง (RAG) RAG ผสมผสานพลังของการดึงข้อมูลและรูปแบบภาษาที่เกิดขึ้นทำให้แชทบ็อตสามารถให้การตอบสนองที่แม่นยำและรับรู้บริบทตามข้อมูลที่เกี่ยวข้องกับผลิตภัณฑ์ที่จัดเก็บไว้ในฐานข้อมูลเวกเตอร์ เราใช้ Langchain เป็นกรอบในการจัดการส่วนประกอบของ chatbot และ orchestrate โฟลว์รุ่นดึงได้อย่างมีประสิทธิภาพ

แบบจำลองและการฝังตัว

Chatbot ใช้ LLAMA3.1-8B ซึ่งเป็นรูปแบบภาษาขนาดใหญ่ที่รู้จักกันดีในการทำความเข้าใจบริบทที่เหมาะสมและสร้างการตอบสนองที่สอดคล้องกัน เพื่อปรับปรุงประสิทธิภาพการดึงข้อมูลโครงการใช้ประโยชน์จากการฝังตัวที่สร้างขึ้นโดย การแปลงประโยคของ HuggingFace/MPNET-BASE-V2 แบบจำลองทั้งหมด Embeddings เหล่านี้เข้ารหัสความหมายทางความหมายทำให้ chatbot สามารถดึงข้อมูลผลิตภัณฑ์ที่เกี่ยวข้องได้อย่างรวดเร็วตามแบบสอบถามของผู้ใช้ Embeddings จะถูกจัดเก็บและจัดการใน Astradb ซึ่งทำหน้าที่เป็นฐานข้อมูลเวกเตอร์ประสิทธิภาพสูง

ผ้าขี้ริ้วที่มีประวัติการแชท

เพื่อให้การตอบสนองที่เชื่อมโยงกันโดยรู้ตัวบริบท chatbot ใช้วิธีการ RAG ที่รับรู้ประวัติศาสตร์ โดยการรวม ประวัติการแชท เข้ากับการโต้ตอบแต่ละครั้งโมเดลสามารถเข้าใจการอ้างอิงถึงข้อความก่อนหน้าและรักษาความต่อเนื่องในหลายรอบ คุณสมบัติ การจัดการประวัติของ Langchain ทำให้กระบวนการนี้ราบรื่นโดยอนุญาตให้มีการจัดการประวัติการแชทสำหรับผู้ใช้แต่ละเซสชันแต่ละครั้ง

การจัดการชุดข้อมูล Apporach

ชุดข้อมูล ที่ใช้ในโครงการนี้ประกอบด้วยบทวิจารณ์ผลิตภัณฑ์ที่มาจาก Flipkart ซึ่งเป็นแพลตฟอร์มอีคอมเมิร์ซ ชุดข้อมูลรวมถึงชื่อผลิตภัณฑ์การให้คะแนนและความคิดเห็นโดยละเอียดนำเสนอมุมมองที่ครอบคลุมเกี่ยวกับความคิดเห็นของลูกค้าในผลิตภัณฑ์ต่าง ๆ วัตถุประสงค์หลักของชุดข้อมูลนี้คือการเพิ่มความสามารถในการดึงข้อมูลของ Chatbot ทำให้สามารถอ้างอิงความรู้สึกของผลิตภัณฑ์คุณสมบัติและประสบการณ์ของลูกค้าได้ การตรวจสอบแต่ละครั้งจะถูกจัดเก็บเป็นวัตถุ เอกสาร ภายใน Langchain ซึ่งมีรีวิวเป็นเนื้อหาและชื่อผลิตภัณฑ์เป็นข้อมูลเมตา ชุดข้อมูล จะถูกนำเข้าสู่ Astradb เป็นร้านค้าเวกเตอร์ทำให้ การค้นหาความคล้ายคลึงกัน ที่ตรงกับการสืบค้นผู้ใช้กับบทวิจารณ์ที่เกี่ยวข้องเพิ่มคำแนะนำและคำตอบของ Chatbot

ส่วนหน้าและการมีปฏิสัมพันธ์

ส่วนหน้าเป็นเว็บอินเตอร์เฟสตอบสนองที่สร้างขึ้นโดยใช้ HTML , CSS และ JavaScript ซึ่งออกแบบมาเพื่อให้ประสบการณ์การแชทที่ใช้งานง่าย ผู้ใช้สามารถโต้ตอบกับ chatbot เพื่อสอบถามรายละเอียดผลิตภัณฑ์และรับคำแนะนำส่วนบุคคล อินเทอร์เฟซมีสไตล์ด้วย CSS ซึ่งมีพื้นหลังการไล่ระดับสีที่ทันสมัยและกล่องแชทที่มีโครงสร้างซึ่งข้อความผู้ใช้และการตอบสนองของบอทจะแสดงแบบเรียลไทม์

การจัดการเวลาตอบสนองที่ยาวนานด้วย Redis และ Celery

ด้วยขนาดที่มีขนาดใหญ่ของโมเดลการสร้างการตอบสนองด้วย LLAMA 3.1-8B บางครั้งอาจเกิน ขีด จำกัด การหมดเวลาเซิร์ฟเวอร์ 1 นาที เริ่มต้น ในการจัดการสิ่งนี้เราได้ใช้ Redis เป็นนายหน้าส่งข้อความและ ผักชีฝรั่ง เพื่อการจัดการงานพื้นหลัง เมื่อผู้ใช้ส่งแบบสอบถาม chatbot จะเรียกงานคื่น ฉ่าย ที่ประมวลผลการตอบ สนองแบบอะซิงโครนัส ทำให้ส่วนหน้าสามารถสำรวจความคิดเห็นเป็นระยะสำหรับสถานะการตอบกลับ วิธีนี้ช่วยป้องกันข้อผิดพลาดในการหมดเวลาเซิร์ฟเวอร์ได้อย่างมีประสิทธิภาพในขณะที่ทำให้ผู้ใช้ได้รับการตอบกลับโดยไม่หยุดชะงัก

การปรับใช้กับ AWS EC2

chatbot ถูกนำไปใช้กับ AWS EC2 ให้สภาพแวดล้อมที่ปรับขนาดได้และมีประสิทธิภาพสำหรับการเรียกใช้โมเดลจัดการการโต้ตอบของผู้ใช้และการจัดการการดึงข้อมูลจากฐานข้อมูล

สแต็คเทคใช้

ภาษา : Python
เฟรมเวิร์ก : Langchain
แบ็กเอนด์ : Flask
นางแบบ : Llama 3.1-8B (Ollama), HuggingFace SESTENCE-TRANSFORMERS
ฐานข้อมูล : ASTRADB (ที่เก็บเวกเตอร์สำหรับ EMBEDDING)
คิวข้อความ : Redis
การจัดการงาน : คื่นฉ่าย
Frontend : HTML, CSS, JavaScript

โครงสร้างพื้นฐาน

การปรับใช้ : AWS EC2
การควบคุมเวอร์ชัน : GitHub

ชุดข้อมูล

ชุดข้อมูลสำหรับโครงการนี้นำมาจาก Kaggle นี่คือลิงค์ชุดข้อมูล ชุดข้อมูลที่ใช้ในโครงการนี้มีรีวิวผลิตภัณฑ์ 450 รายการเกี่ยวกับหูฟังแบรนด์ต่าง ๆ ERABUDS และอื่น ๆ ที่รวบรวมจาก Flipkart รวมถึงคุณสมบัติที่สำคัญต่อไปนี้:

ID ผลิตภัณฑ์ : ตัวระบุที่ไม่ซ้ำกันสำหรับแต่ละผลิตภัณฑ์
ชื่อผลิตภัณฑ์ : ชื่อหรือชื่อเรื่องของผลิตภัณฑ์ซึ่งช่วยในการทำความเข้าใจบริบทผลิตภัณฑ์สำหรับคำแนะนำ
การให้คะแนน : คะแนนตัวเลข (จาก 5) ที่กำหนดโดยผู้ใช้ระบุคุณภาพของผลิตภัณฑ์
สรุป : สรุปสั้น ๆ หรือพาดหัวของการตรวจสอบ
รีวิว : การตรวจสอบผู้ใช้โดยละเอียดซึ่งให้ข้อมูลเชิงลึกเกี่ยวกับประสบการณ์ของผู้ใช้กับผลิตภัณฑ์

ชื่อผลิตภัณฑ์เหล่านี้การให้คะแนนบทสรุปและข้อความทบทวนได้รับการยกระดับเพื่อสร้างการฝังและปรับปรุงความเกี่ยวข้องของการตอบสนองของ Chatbot ในการทำความเข้าใจกับการสอบถามข้อมูลของลูกค้าเกี่ยวกับผลิตภัณฑ์ นอกจากนี้คุณสามารถดาวน์โหลดชุดข้อมูลได้จากที่นี่

รายละเอียดชุดข้อมูล

 ชื่อชุดข้อมูล: flipkart_dataset
จำนวนคอลัมน์: 5
จำนวนระเบียน: 450

การติดตั้ง

รหัสถูกเขียนใน Python 3.10.15 หากคุณไม่ได้ติดตั้ง Python คุณสามารถค้นหาได้ที่นี่ หากคุณใช้ Python เวอร์ชันที่ต่ำกว่าคุณสามารถอัปเกรดโดยใช้แพ็คเกจ PIP เพื่อให้แน่ใจว่าคุณมี PIP เวอร์ชันล่าสุด

วิ่งในพื้นที่

ขั้นตอนที่ 1: โคลนที่เก็บไปยังเครื่องในพื้นที่ของคุณ:

git clone https://github.com/jatin-12-2002/E-Commerce_ChatBot

ขั้นตอนที่ 2: นำทางไปยังไดเรกทอรีโครงการ:

 cd E-Commerce_ChatBot

ขั้นตอนที่ 3: สร้างสภาพแวดล้อม conda หลังจากเปิดพื้นที่เก็บข้อมูล

conda create -p env python=3.10 -y

 source activate ./env

ขั้นตอนที่ 4: ติดตั้งข้อกำหนด

pip install -r requirements.txt

ขั้นตอนที่ 5: ตั้งค่าตัวแปรสภาพแวดล้อม:

สร้างไฟล์. env ในไดเรกทอรีโครงการ
กำหนดตัวแปรสภาพแวดล้อมที่จำเป็นเช่นสตริงการเชื่อมต่อฐานข้อมูลคีย์ API ฯลฯ
ไฟล์. env ของคุณควรมีตัวแปรเหล่านี้:

ASTRA_DB_API_ENDPOINT= " "
ASTRA_DB_APPLICATION_TOKEN= " "
ASTRA_DB_KEYSPACE= " "
HF_TOKEN= " "

ไฟล์. env ของฉันอยู่ที่นี่

ขั้นตอนที่ 6: ดาวน์โหลด Ollama API

curl -fsSL https://ollama.com/install.sh | sh

ขั้นตอนที่ 7: ไปที่เทอร์มินัลใหม่และหลังจากเปิดใช้งานสภาพแวดล้อม เริ่มเซิร์ฟเวอร์ Ollama

ollama serve

ขั้นตอนที่ 8: ดาวน์โหลดรุ่น LLAMA3.1-8B

ollama pull llama3.1:8b

ขั้นตอนที่ 9: ติดตั้ง Redis

sudo apt-get update

sudo apt-get install redis-server

ขั้นตอนที่ 10: เริ่มเซิร์ฟเวอร์ Redis (โดยปกติจะทำบนพอร์ต 6379 โดยค่าเริ่มต้น)

sudo service redis-server start

ขั้นตอนที่ 11: ตรวจสอบว่า Redis กำลังทำงานอยู่หรือไม่ มันควรจะกลับมา เป็นโป่ง ถ้าทุกอย่างทำงานได้ดี

redis-cli ping

ขั้นตอนที่ 12: เริ่มงานคื่นฉ่าย ในหน้าต่างเทอร์มินัลใหม่ให้เปิดใช้งานสภาพแวดล้อมแล้วเรียกใช้:

celery -A app.celery worker --loglevel=info

ขั้นตอนที่ 13: เรียกใช้แอปพลิเคชัน Flask ในเทอร์มินัลอื่นเริ่มแอปพลิเคชันขวดของคุณด้วย Gunicorn

gunicorn -w 2 -b 0.0.0.0:8000 app:app

ขั้นตอนที่ 14 - แอปพลิเคชันการทำนาย

http://localhost:8000/

chatbot responses outputs

ภาพ

การปรับใช้ AWS

ขั้นตอนที่ 1: ส่งรหัสทั้งหมดของคุณไปที่ GitHub

ขั้นตอนที่ 2: เข้าสู่ลิงค์บัญชี AWS ของคุณ

ขั้นตอนที่ 3: เปิดอินสแตนซ์ EC2 ของคุณ

ขั้นตอนที่ 4: กำหนดค่าอินสแตนซ์ EC2 ของคุณ

Use t2.large or greater size instances only as it is a GenerativeAI using LLMs project.

ขั้นตอนที่ 5: คำสั่งสำหรับการกำหนดค่าอินสแตนซ์ EC2

ข้อมูล: การอัปเดต Sudo Apt-Get และ Sudo APT นั้นใช้เพื่ออัปเดตดัชนีแพ็คเกจในระบบที่ใช้ Debian เช่น Ubuntu แต่พวกเขาแตกต่างกันเล็กน้อยในแง่ของเครื่องมือที่ใช้และการทำงานของพวกเขา:

ขั้นตอนที่ 6: เชื่อมต่ออินสแตนซ์ EC2 ของคุณและเริ่มพิมพ์คำสั่งต่อไปนี้

ขั้นตอนที่ 6.1: คำสั่งนี้ใช้ APT-GET ซึ่งเป็นเครื่องมือการจัดการแพ็คเกจแบบดั้งเดิม

sudo apt-get update

ขั้นตอนที่ 6.2: คำสั่งนี้ใช้ APT ซึ่งเป็นอินเตอร์เฟสบรรทัดคำสั่งที่ใช้งานง่ายมากขึ้นสำหรับระบบการจัดการแพ็คเกจ APT

sudo apt update -y

ขั้นตอนที่ 6.3: ติดตั้ง nginx, git และเครื่องมืออื่น ๆ

sudo apt install git nginx -y

ขั้นตอนที่ 6.3: ติดตั้งเครื่องมือที่จำเป็น

sudo apt install git curl unzip tar make sudo vim wget -y

ขั้นตอนที่ 6.4: พื้นที่เก็บข้อมูลโคลน Git

git clone https://github.com/jatin-12-2002/E-Commerce_ChatBot

ขั้นตอนที่ 6.5: นำทางไปยังไดเรกทอรีโครงการ:

 cd E-Commerce_ChatBot

ขั้นตอนที่ 6.6: สร้างไฟล์. env ที่นั่น

touch .env

ขั้นตอนที่ 6.6: เปิดไฟล์ใน VI Editor

vi .env

ขั้นตอนที่ 6.7: กดแทรกและกล่าวถึงตัวแปร. Env จากนั้นกด ESC เพื่อบันทึกและเขียน: WQ สำหรับการออก

ASTRA_DB_API_ENDPOINT= " "
ASTRA_DB_APPLICATION_TOKEN= " "
ASTRA_DB_KEYSPACE= " "
HF_TOKEN= " "

ขั้นตอนที่ 6.8: ### สำหรับการตรวจสอบค่าของตัวแปร. ENV

cat .env

ขั้นตอนที่ 6.9: สำหรับการติดตั้ง Python และ Pip นี่คือคำสั่ง

sudo apt install python3-pip

ขั้นตอนที่ 6.10: ติดตั้งข้อกำหนด. txt ธง-BREAK-SYSTEM-PACKAGES ใน PIP ช่วยให้สามารถแทนที่ข้อผิดพลาดด้านสิ่งแวดล้อมที่มีการจัดการภายนอกและติดตั้งแพ็คเกจ Python ทั่วทั้งระบบ

pip3 install -r  requirements.txt

หรือ

pip3 install -r  requirements.txt --break-system-packages

ธง-BREAK-SYSTEM-PACKAGES ใน PIP ช่วยให้สามารถแทนที่ข้อผิดพลาดด้านสิ่งแวดล้อมที่มีการจัดการภายนอกและติดตั้งแพ็คเกจ Python ทั่วทั้งระบบ PIP ติดตั้ง package_name-BREAK-SYSTEM-PACKAGES

ขั้นตอนที่ 6.11: ทดสอบแอปพลิเคชันด้วย Gunicorn ตรวจสอบว่าแอพทำงานได้โดยไปที่ http: // your-eC2-public-ip: 8000

gunicorn -w 2 -b 0.0.0.0:8000 app:app

ขั้นตอนที่ 6.12: กำหนดค่า Nginx เป็นพร็อกซีย้อนกลับ ตั้งค่า Nginx เพื่อส่งต่อคำขอไปยัง Gunicorn เปิดไฟล์กำหนดค่า Nginx:

sudo nano /etc/nginx/sites-available/default

ขั้นตอนที่ 6.13: อัปเดตการกำหนดค่า NGINX ดังนี้:

server {
    listen 80 ;
    server_name your-ec2-public-ip ;

    location / {
        proxy_pass http://127.0.0.1:8000 ;
        proxy_set_header Host $host ;
        proxy_set_header X-Real-IP $remote_addr ;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for ;
        proxy_set_header X-Forwarded-Proto $scheme ;
    }
}

บันทึกและปิดไฟล์

ขั้นตอนที่ 6.14: จากนั้นรีสตาร์ท nginx:

sudo systemctl restart nginx

ขั้นตอนที่ 6.15: ตั้งค่า Gunicorn เป็นบริการพื้นหลัง เพื่อให้ Gunicorn ทำงานเป็นบริการให้ตั้งค่าไฟล์บริการ SystemD สร้างไฟล์บริการใหม่:

sudo nano /etc/systemd/system/gunicorn.service

ขั้นตอนที่ 6.16: อัปเดตการกำหนดค่าดังนี้:

[Unit]
Description=Gunicorn instance to serve my project
After=network.target

[Service]
User=ubuntu
Group=www-data
WorkingDirectory=/home/ubuntu/E-Commerce_ChatBot_Project
ExecStart=/usr/bin/gunicorn --workers 4 --bind 127.0.0.1:8000 app:app

[Install]
WantedBy=multi-user.target

บันทึกและปิดไฟล์

ขั้นตอนที่ 6.17: เริ่มต้นและเปิดใช้งานบริการ:

sudo systemctl start gunicorn

sudo systemctl enable gunicorn

ขั้นตอนที่ 7: กำหนดค่ากฎขาเข้าของคุณ:

เข้าไปในความปลอดภัย
คลิกที่กลุ่มความปลอดภัย
กำหนดค่ากฎขาเข้าของคุณด้วยค่าที่แน่นอน
พอร์ต 5000 0.0.0.0/0 สำหรับการรับส่งข้อมูล TCP/IP ทุกที่
พอร์ต 8000 0.0.0.0/0 สำหรับการรับส่งข้อมูล TCP/IP ทุกที่
พอร์ต 11434 0.0.0.0/0 สำหรับการรับส่งข้อมูล TCP/IP ทุกที่

ขั้นตอนที่ 8: บันทึกและตอนนี้เรียกใช้แอปพลิเคชันของคุณ

gunicorn -w 2 -b 0.0.0.0:8000 app:app

ขั้นตอนที่ 9 - เรียกใช้พอร์ตสาธารณะของอินสแตนซ์ EC2

Public_Address:8080

หากคุณพบข้อผิดพลาดใด ๆ เช่นรหัส: 400 ในขณะที่เรียกใช้ "https: {public_address}: 5000" จากนั้นเพียงเรียกใช้กับ 'http' แทน 'https'

ตรวจสอบว่าแอปของคุณสามารถเข้าถึงได้ผ่าน http: // your-eC2-public-ip Nginx จะส่งต่อคำขอไปยัง Gunicorn ซึ่งให้บริการแอพ Flask

การตั้งค่านี้ทำให้แอปของคุณพร้อมใช้งานโดยใช้ Nginx และ Gunicorn เพื่อความมั่นคงประสิทธิภาพและความยืดหยุ่น คุณสามารถปรับขนาดต่อไปได้โดยการเพิ่มคนงาน Gunicorn หรือเพิ่มการปรับสมดุลโหลดหากการจราจรเพิ่มขึ้น

บทสรุป

e-commerce chatbot นี้มอบประสบการณ์การช็อปปิ้งที่ชาญฉลาดและโต้ตอบผ่านแนวทาง RAG ที่รวมการดึงและการสร้างโดยเสนอคำแนะนำผลิตภัณฑ์ที่เกี่ยวข้องตามบทวิจารณ์ของลูกค้าจริง
รูปแบบภาษาขนาดใหญ่ของ Llama 3.1 และ การฝังตัวของ HuggingFace ช่วยให้การตอบสนองที่เหมาะสมยิ่งขึ้นเพิ่มการมีส่วนร่วมของผู้ใช้ด้วยการสนทนาที่รับรู้ตามบริบท
การจัดการการตอบสนองที่มีประสิทธิภาพด้วย Redis และ คื่นฉ่าย ตอบสนองความต้องการของแอปพลิเคชันที่มีประสิทธิภาพสูงทำให้มั่นใจได้ว่าประสบการณ์ผู้ใช้ที่มีความเสถียรและตอบสนองได้แม้จะมี LLM ขนาดใหญ่
การปรับใช้ AWS EC2 ที่ปรับขนาดได้อย่างสมบูรณ์ช่วยให้การรวมเข้ากับแพลตฟอร์มอีคอมเมิร์ซได้อย่างราบรื่นซึ่งนำเสนอโครงสร้างพื้นฐานที่แข็งแกร่งสำหรับสภาพแวดล้อมที่มีการจราจรสูง
โครงการนี้นำเสนอแอพพลิเคชั่นที่ทรงพลังของ แบบจำลองภาษาขนาดใหญ่ ผลักดันขอบเขตของความสามารถของ Chatbot ในโดเมนอีคอมเมิร์ซ

ขยาย