LLM dan aplikasi yang diinfus AI dengan Java & Spring AI
Sampel yang menunjukkan cara membangun aplikasi Java yang ditenagai oleh AI generatif dan model bahasa besar (LLM) menggunakan AI Spring.
Prasyarat
Menggunakan kasus
? Chatbot Chatbot menggunakan LLMS melalui Ollama.
❓ Pertanyaan menjawab pertanyaan menjawab dengan dokumen (RAG) menggunakan LLMS melalui Ollama dan PGVector.
? Pencarian Semantik Pencarian Semantik Menggunakan LLMS Via Ollama dan PGVector.
Ekstraksi data terstruktur
Ekstraksi data terstruktur menggunakan LLMS melalui Ollama.
Klasifikasi Klasifikasi Teks Klasifikasi Teks Menggunakan LLMS melalui Ollama.
? Model
Model obrolan
Penyelesaian obrolan dengan LLMS melalui penyedia model yang berbeda:
- AI Mistral
- Ollama
- Openai
- Beberapa penyedia
? Model yang menanamkan
Transformasi Vektor (Embeddings) dengan LLMS melalui penyedia model yang berbeda:
- AI Mistral
- Ollama
- Openai
- Transformer onnx
? Model gambar
Pembuatan gambar dengan LLMS melalui penyedia model yang berbeda:
? Model audio
Generasi Pidato dengan LLMs melalui berbagai penyedia model:
Transkripsi wicara dengan LLMS melalui penyedia model yang berbeda:
? Model moderasi
Segera hadir
? Pola
Permintaan, pesan, dan templat
Minta Menggunakan Teks Sederhana:
Meminta menggunakan pesan dan peran terstruktur:
Meminta menggunakan template:
Output terstruktur
Mengubah output LLM ke objek JSON dan Java terstruktur:
Multimodality
Termasuk berbagai media dalam permintaan dengan LLMS:
Fungsi panggilan/alat
Panggilan fungsi dengan LLM melalui berbagai penyedia model:
? Ingatan
Segera hadir
? Konsumsi data
Pembaca dokumen
Membaca dan vektor dokumen dengan LLMS melalui Ollama:
- Json
- Penurunan harga
- Pdf
- Teks
- Tika
Transformer dokumen
Transformasi dokumen dengan LLMS melalui Ollama:
- Metadata
Memperkaya dokumen dengan kata kunci dan ringkasan metadata untuk peningkatan pengambilan. - Splitter
Bagilah dokumen menjadi potongan -potongan agar sesuai dengan jendela konteks LLM.
? Toko vektor
Segera hadir
Retrieval Augmented Generation (RAG)
Pertanyaan Menjawab dengan dokumen menggunakan aliran kain yang berbeda (dengan ollama dan pgvector):
➡️ Rag berurutan
❔ kain bersyarat
? Kain bercabang
Kemampuan observasi
? Kemampuan observasi llm
Observabilitas LLM untuk penyedia model yang berbeda:
? Observabilitas toko vektor
Observabilitas toko vektor untuk toko vektor yang berbeda:
? Evaluasi
Segera hadir
? Agen
Segera hadir
Referensi dan sumber daya tambahan
- Dokumentasi Referensi Spring AI
? Konferensi
- Memperkenalkan AI Spring oleh Christian Tzolov dan Mark Pollack (Spring I/O 2024)
- Spring AI adalah semua yang Anda butuhkan oleh Christian Tzolov (Goto Amsterdam 2024)
- Concerto untuk Java dan AI - Membangun Aplikasi LLM siap -produksi oleh Thomas Vitale (Spring I/O 2024)
? Video
- Membangun Aplikasi Cerdas dengan Spring AI oleh Dan Vega (JetBrains Live Stream)
- Seri AI Spring oleh Dan Vega
- Seri AI Spring oleh Craig Walls
- Seri AI Spring oleh Josh Long
? Demo
- Dukungan Pelanggan Maskapai (Marcus Hellberg)
- Asisten Komposer (Thomas Vitale)
- Asisten Dokumen (Marcus Hellberg)
- Pemesanan Penerbangan (Christian Tzolov)
Bengkel
- Spring AI - Zero to Hero (Adib Saikali, Christian Tzolov)
- Aplikasi AI dengan Java dan Spring AI (Thomas Vitale)