LLM- und AI-infundierte Anwendungen mit Java & Spring AI
Proben, die zeigen, wie Java -Anwendungen mit generativen KI und großen Sprachmodellen (LLMs) mit Spring AI betrieben werden.
Voraussetzungen
Anwendungsfälle
? Chatbot Chatbot mit LLMs über Ollama.
❓ Frage zur Beantwortung von Frage zur Beantwortung von Dokumenten (LAG) mit LLMs über Ollama und PGVector.
? Semantische Suche semantische Suche mit LLMs über Ollama und PGVector.
Strukturierte Datenextraktion
Strukturierte Datenextraktion unter Verwendung von LLMs über Ollama.
Textklassifizierung Textklassifizierung mit LLMs über Ollama.
? Modelle
Chat -Modelle
Chat -Abschluss mit LLMs über verschiedene Modellanbieter:
- Mistral Ai
- Ollama
- Openai
- Mehrere Anbieter
? Einbettungsmodelle
Vektortransformation (Einbettung) mit LLMs über verschiedene Modellanbieter:
- Mistral Ai
- Ollama
- Openai
- Onnx -Transformatoren
? Bildmodelle
Bildgenerierung mit LLMs über verschiedene Modellanbieter:
? Audiomodelle
Sprachgenerierung mit LLMs über verschiedene Modellanbieter:
Sprachtranskription mit LLMs über verschiedene Modellanbieter:
? ️ Moderationsmodelle
Bald kommen
? Muster
Aufforderungen, Nachrichten und Vorlagen
Aufforderung zur Verwendung einfacher Text:
Aufforderung zur Verwendung strukturierter Nachrichten und Rollen:
Aufforderung zur Verwendung von Vorlagen:
Strukturierter Ausgang
Konvertieren von LLM -Ausgabe in strukturierte JSON- und Java -Objekte:
Multimodalität
Einschließlich verschiedener Medien in Eingabeaufforderungen mit LLMs:
Funktionsaufruf/Tools
Funktionsaufruf mit LLMs über verschiedene Modellanbieter:
? Erinnerung
Bald kommen
? Datenaufnahme
Dokumentleser
Lesen und vektorisierende Dokumente mit LLMs über Ollama:
- JSON
- Markdown
- PDF
- Text
- Tika
Dokumenttransformatoren
Dokumententransformation mit LLMs über Ollama:
- Metadaten
Bereichern Sie Dokumente mit Schlüsselwörtern und zusammenfassenden Metadaten zum erweiterten Abruf. - Splitter
Teilen Sie Dokumente in Stücke, um das LLM -Kontextfenster anzupassen.
? Vektorspeicher
Bald kommen
Abrufer Augmented Generation (LAG)
Fragen zur Beantwortung von Dokumenten mit verschiedenen Lappenströmen (mit Ollama und PGVector):
➡️ Sequentielle Lappen
❔ Bedingter Lappen
? Verzweigungslappen
Beobachtbarkeit
? LLM -Beobachtbarkeit
LLM -Beobachtbarkeit für verschiedene Modellanbieter:
? Vektorspeicherbeobachtbarkeit
Vektorspeicherbeobachtbarkeit für verschiedene Vektorspeicher:
? Auswertung
Bald kommen
? Agenten
Bald kommen
Referenzen und zusätzliche Ressourcen
- Frühlings -AI -Referenzdokumentation
? Konferenzen
- Einführung in Frühlings -AI von Christian Tzolov und Mark Pollack (Frühlings -I/O 2024)
- Spring AI ist alles, was Sie brauchen, von Christian Tzolov (Goto Amsterdam 2024)
- Konzert für Java und KI - Produktionsproduktionsanwendungen für Gebäude von Thomas Vitale (Spring E/O 2024)
? Videos
- Bauen intelligenter Anwendungen mit Spring AI von Dan Vega (JetBrains Live Stream)
- Frühlings -AI -Serie von Dan Vega
- Frühlings -AI -Serie von Craig Walls
- Frühlings -AI -Serie von Josh Long
? Demos
- Kundenbetreuung der Fluggesellschaft (Marcus Hellberg)
- Komponist Assistent (Thomas Vitale)
- Dokumentenassistent (Marcus Hellberg)
- Flugbuchung (Christian Tzolov)
Workshops
- Frühlings -AI - Null zu Helden (Adib Saikali, Christian Tzolov)
- AI -Anwendungen mit Java und Spring AI (Thomas Vitale)