แอปพลิเคชั่น LLM และ AI-infused กับ Java & Spring AI
ตัวอย่างที่แสดงวิธีการสร้างแอปพลิเคชัน Java ที่ขับเคลื่อนโดย AI Generative และรุ่นภาษาขนาดใหญ่ (LLMS) โดยใช้ Spring AI
สิ่งที่ต้องมีก่อน
ใช้เคส
- chatbot chatbot โดยใช้ LLMs ผ่าน Ollama
❓ คำถามตอบ คำถามตอบด้วยเอกสาร (RAG) โดยใช้ LLM ผ่าน Ollama และ PgVector
- การค้นหาความหมายความ หมายการค้นหาโดยใช้ LLMS ผ่าน Ollama และ PgVector
การสกัดข้อมูลที่มีโครงสร้าง
การสกัดข้อมูลที่มีโครงสร้างโดยใช้ LLM ผ่าน Ollama
️ การจำแนกประเภทข้อความ การจำแนกข้อความโดยใช้ LLM ผ่าน Ollama
- แบบจำลอง
โมเดลแชท
การแชทเสร็จสมบูรณ์ด้วย LLMs ผ่านผู้ให้บริการโมเดลที่แตกต่างกัน:
- mistral ai
- โอลลา
- Openai
- ผู้ให้บริการหลายราย
- การฝังโมเดล
การแปลงเวกเตอร์ (EMBEDDINGS) กับ LLM ผ่านผู้ให้บริการโมเดลที่แตกต่างกัน:
- mistral ai
- โอลลา
- Openai
- หม้อแปลง onnx
- รูปแบบภาพ
การสร้างภาพด้วย LLMS ผ่านผู้ให้บริการโมเดลที่แตกต่างกัน:
- รุ่นเสียง
การสร้างคำพูดด้วย LLM ผ่านผู้ให้บริการโมเดลที่แตกต่างกัน:
การถอดความคำพูดด้วย LLMS ผ่านผู้ให้บริการโมเดลที่แตกต่างกัน:
️โมเดลการกลั่นกรอง
เร็วๆ นี้
- รูปแบบ
พรอมต์ข้อความและเทมเพลต
พร้อมท์โดยใช้ข้อความง่าย ๆ :
การแจ้งเตือนโดยใช้ข้อความและบทบาทที่มีโครงสร้าง:
พร้อมท์โดยใช้เทมเพลต:
เอาต์พุตที่มีโครงสร้าง
การแปลงเอาต์พุต LLM เป็นวัตถุ JSON ที่มีโครงสร้างและ Java:
ความหลากหลาย
รวมถึงสื่อต่าง ๆ ในพรอมต์ด้วย LLMS:
การเรียกใช้ฟังก์ชัน/เครื่องมือ
การเรียกใช้ฟังก์ชันด้วย LLMS ผ่านผู้ให้บริการโมเดลที่แตกต่างกัน:
- หน่วยความจำ
เร็วๆ นี้
- การบริโภคข้อมูล
ผู้อ่านเอกสาร
การอ่านและการทำให้เป็นเวกเตอร์เอกสารด้วย LLM ผ่าน Ollama:
- JSON
- การทำเครื่องหมาย
- PDF
- ข้อความ
- Tika
หม้อแปลงเอกสาร
การแปลงเอกสารด้วย LLMS ผ่าน Ollama:
- ข้อมูลเมตา
เพิ่มเอกสารด้วยคำหลักและข้อมูลเมตาสรุปสำหรับการดึงข้อมูลที่ปรับปรุงแล้ว - ตัวแยก
แบ่งเอกสารออกเป็นชิ้นเพื่อให้พอดีกับหน้าต่างบริบท LLM
- ร้านค้าเวกเตอร์
เร็วๆ นี้
Generation Augmented Retrieval (RAG)
ตอบคำถามด้วยเอกสารที่ใช้การไหลของผ้าขี้ริ้วที่แตกต่างกัน (กับ Ollama และ PgVector):
➡ผ้าขี้ริ้วต่อเนื่อง
❔ผ้าขี้ริ้วแบบมีเงื่อนไข
- ผ้าขี้ริ้ว
ความสังเกตได้
- ความสามารถในการสังเกต LLM
การสังเกต LLM สำหรับผู้ให้บริการโมเดลที่แตกต่างกัน:
- ความสามารถในการสังเกตร้านค้าเวกเตอร์
ความสามารถในการสังเกตร้านค้าเวกเตอร์สำหรับร้านค้าเวกเตอร์ที่แตกต่างกัน:
- การประเมิน
เร็วๆ นี้
- ตัวแทน
เร็วๆ นี้
ข้อมูลอ้างอิงและแหล่งข้อมูลเพิ่มเติม
- เอกสารอ้างอิง AI Spring AI
- การประชุม
- แนะนำฤดูใบไม้ผลิ AI โดย Christian Tzolov และ Mark Pollack (Spring I/O 2024)
- ฤดูใบไม้ผลิ AI คือสิ่งที่คุณต้องการโดย Christian Tzolov (Goto Amsterdam 2024)
- คอนแชร์โต้สำหรับ Java และ AI - การสร้างแอพพลิเคชั่น LLM พร้อมการผลิตโดย Thomas Vitale (Spring I/O 2024)
- วิดีโอ
- การสร้างแอพพลิเคชั่นอัจฉริยะด้วย Spring AI โดย Dan Vega (Jetbrains Live Stream)
- ฤดูใบไม้ผลิ AI ซีรี่ส์โดย Dan Vega
- ซีรีส์ AI ฤดูใบไม้ผลิโดย Craig Walls
- ฤดูใบไม้ผลิซีรีส์ AI โดย Josh Long
- การสาธิต
- การสนับสนุนลูกค้าของสายการบิน (Marcus Hellberg)
- ผู้ช่วยนักแต่งเพลง (Thomas Vitale)
- ผู้ช่วยเอกสาร (Marcus Hellberg)
- การจองเที่ยวบิน (Christian Tzolov)
เวิร์กช็อป
- ฤดูใบไม้ผลิ AI - Zero to Hero (Adib Saikali, Christian Tzolov)
- แอพพลิเคชั่น AI กับ Java และ Spring AI (Thomas Vitale)