langboot

หุ่นเชิด

ใช้แนวคิดของ Langchain เพื่อสร้างแอพพลิเคชั่น Springboot AI

โครงการนี้ไม่เกี่ยวข้องกับการปรับแต่งและกระบวนการฝึกอบรมของโมเดล AI เท่านั้น

Tech Stack ที่เกี่ยวข้อง

ส่วนประกอบ	รุ่น
ชวา	17+
สปริงโบท	3.1.0
Swagger-ui	Knife4J-Openapi3-Jakarta-Spring-Boot-Starter
ชุดเครื่องมือ	Hutool-all
แคช	Redis
JSON	fastjson2
mysql	mysql-connector-j
Orm Framework	mybatis-plus
Openai Library	Openai-Java
ส่วนหน้า	freemarker, bootstrap, jQuery, record.js
การแชท	SSE
LLMS	Openai, Chatglm2, Wen Xin Yiyan, Zhipu Ai, Kimi
การฝัง	openai, text2vec-transformers, Wen Xinyiyan
ร้านค้าเวกเตอร์	ทอผ้า, milvus, pgvector

หลักการผ้าขี้ริ้ว Langchain

เมทริกซ์ความสามารถของแบบจำลอง

รุ่น/ความสามารถ	การสร้างข้อความ	การสตรีมเอาต์พุต	เสียง	การเรียกใช้ฟังก์ชัน	การสร้างภาพ	Multimodal (Vision)	ฝังฝัง
Openai	สนับสนุน	สนับสนุน	สนับสนุน	สนับสนุน	สนับสนุน	สนับสนุน	สนับสนุน
Baidu (Wenxin)	สนับสนุน	สนับสนุน	-	สนับสนุน	สนับสนุน	-	สนับสนุน
คะแนนอัจฉริยะ (GLM-4)	สนับสนุน	สนับสนุน	-	สนับสนุน	สนับสนุน	สนับสนุน	สนับสนุน
คิมิ	สนับสนุน	สนับสนุน	-	-	-	-	-
chatglm2	สนับสนุน	สนับสนุน	-	-	-	-	-
-	-	-	-	-	-	-	-

แผนงานที่ใช้งานได้

การอัปโหลดฐานความรู้ท้องถิ่นเสร็จสมบูรณ์และฟังก์ชั่นการแชทสตรีมมิ่งของรุ่น LLM ห้ารุ่น ได้แก่ OpenAI, ChatglM2, Baidu, Zhipu GLM-4 และ Kimi เสร็จสมบูรณ์แล้ว ในอนาคตจะมีการเชื่อมต่อแบบจำลองภาษาที่มีขนาดใหญ่มากขึ้นเพื่อให้ตรงกับสถานการณ์ความต้องการมากขึ้น

• ฐานความรู้ของ Langchain
  • เข้าถึงเอกสารที่ไม่มีโครงสร้าง (มีรูปแบบไฟล์ที่รองรับเช่น MD, PDF, DOCX, TXT, CSV ฯลฯ )
  • การเข้าถึงเครื่องมือค้นหา
  • การเข้าถึงข้อมูลที่มีโครงสร้าง (เช่น Excel, SQL ฯลฯ )
  • การเข้าถึงฐานข้อมูลกราฟความรู้/กราฟิก
• ฟังก์ชั่นระบบ
  • ผู้ใช้
    • เข้าสู่ระบบผู้ใช้
    • การลงทะเบียนผู้ใช้
    • เข้าสู่ระบบของบุคคลที่สาม
  • ใช้การแชทสตรีมโดยใช้ SSE
  • อินพุตและเอาต์พุต
  • การจัดการเซสชัน
  • การจัดการฐานความรู้
  • รองรับการตอบคำถาม Search Engine
• แจ้งให้ฟังก์ชั่นที่เกี่ยวข้อง
  • สรุป
  • แปล
  • คำสำคัญ
  • การจำแนกข้อความ
  • ความปลอดภัยของเนื้อหา
  • การวิเคราะห์การตั้งค่า
  • ตรวจสอบปอนด์
  • ภาพ Wensheng
• ส่วนหน้า
  • การปรับตัวมือถือ
  • การเพิ่มประสิทธิภาพของการสตรีมเอาต์พุตของรหัสและเนื้อหาอื่น ๆ

เริ่มต้นอย่างรวดเร็ว

1. เรียกใช้สคริปต์ฐานข้อมูล

init - script / db . sql

2. ติดตั้งฐานข้อมูลเวกเตอร์ท้องถิ่น

-- 安装启动本地向量数据库
docker-compose up -d 

3. โมเดลภาษาใหญ่

 // 配置openai api token
openai . token = sk - xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx 

 # 或者启动本地chatglm2-6B模型
python .o penai_api . py 

สำหรับการกำหนดค่าเพิ่มเติมโปรดตรวจสอบ

วิกิ

วิธีสร้างเอกสารฐานความรู้คุณภาพสูง

การแสดงผลฟังก์ชั่น

การสาธิตแชท

ฐานความรู้ท้องถิ่น

## กลุ่มแลกเปลี่ยนโครงการ

โครงการการสื่อสารของ WeChat Langchain-Springboot หากรหัส QR กลุ่มหมดอายุโปรดสแกนรหัส QR ส่วนตัวของฉันเพื่อเข้าร่วมกลุ่ม