ผู้ช่วยของ Jessup เป็นแชทบ็อตที่ใช้การดึงข้อมูลซึ่งใช้โมเดล LLAMA3-8B ที่ผ่านการฝึกอบรมมาก่อนเพื่อสร้างการตอบสนองต่อการป้อนข้อมูลของผู้ใช้ Groq ถูกใช้เพื่อการอนุมานใกล้ทันทีเนื่องจากความเร็วโทเค็นสูงและ Google Gen Ai Studio API ถูกนำมาใช้เพื่อรับการฝัง โมเดลใช้ไฟล์ PDF สำหรับการดึงข้อมูลและการสร้างการตอบกลับตามบริบท ไฟล์ PDF สามารถพบได้ในโฟลเดอร์ 'PDFS'
โครงการนี้โฮสต์บน Streamlit และสามารถเข้าถึงได้ที่นี่
คำแนะนำเหล่านี้จะแนะนำคุณเกี่ยวกับการรับสำเนาโครงการและทำงานบนเครื่องในพื้นที่ของคุณเพื่อการพัฒนาและการทดสอบ
ก่อนอื่นคุณจะต้องโคลนพื้นที่เก็บข้อมูลไปยังเครื่องในพื้นที่ของคุณ คุณสามารถทำได้โดยเรียกใช้คำสั่งต่อไปนี้ในเทอร์มินัลของคุณ:
git clone https://github.com/soumyadeepbose/Jessup-Cellar-RAG-App.gitถัดไปคุณจะต้องติดตั้งแพ็คเกจที่จำเป็น คุณสามารถทำได้โดยเรียกใช้คำสั่งต่อไปนี้ในเทอร์มินัลของคุณ:
pip install -r requirements.txt คุณจะต้องตั้งค่าตัวแปรสภาพแวดล้อม สำหรับสิ่งนี้คุณต้องสร้างไฟล์ .env ในไดเรกทอรีรูทของโครงการ ไฟล์ .env ควรมีตัวแปรสภาพแวดล้อมต่อไปนี้:
GOOGLE_API_KEY : นี่คือคีย์ API สำหรับ Google Gen AI Studio API คุณสามารถรับสิ่งนี้ได้โดยทำตามคำแนะนำที่นี่
GROQ_API_KEY : นี่คือคีย์ API สำหรับ GROQ API คุณสามารถรับสิ่งนี้ได้โดยทำตามคำแนะนำที่นี่
ตอนนี้เพื่อเรียกใช้แอพคุณจะต้องเรียกใช้คำสั่งต่อไปนี้ในเทอร์มินัลของคุณ:
streamlit run app.py