Aplicativos com infusão de AI e AI com Java & Spring AI
Amostras mostrando como criar aplicativos Java alimentados por IA generativa e modelos de idiomas grandes (LLMs) usando a IA da Spring.
Pré-requisitos
Casos de uso
? Chatbot chatbot usando o LLMS via Ollama.
❓ Perguntas Respondendo a perguntas de perguntas com documentos (RAG) usando LLMs via Ollama e PGVector.
? Pesquisa semântica Pesquisa semântica usando LLMS via Ollama e PGVector.
Extração de dados estruturados
Extração de dados estruturados usando LLMS via Ollama.
" Classificação de texto de texto Classificação de texto usando LLMS via Ollama.
? Modelos
Modelos de bate -papo
Conclusão de bate -papo com LLMs por meio de diferentes provedores de modelos:
- Ai Mistral
- Ollama
- Openai
- Vários fornecedores
? Modelos de incorporação
Transformação vetorial (incorporação) com LLMs por meio de diferentes provedores de modelos:
- Ai Mistral
- Ollama
- Openai
- Onnx Transformers
? Modelos de imagem
Geração de imagens com LLMs por meio de diferentes provedores de modelos:
? Modelos de áudio
Geração de fala com LLMs por meio de diferentes provedores de modelos:
Transcrição de fala com LLMs por meio de diferentes provedores de modelos:
? ️ Modelos de moderação
Em breve
? Padrões
Prompts, mensagens e modelos
Solicitando usar texto simples:
Solicitando usar mensagens e funções estruturadas:
Solicitando usar modelos:
Saída estruturada
Convertendo saída LLM em objetos estruturados JSON e Java:
Multimodalidade
Incluindo várias mídias em prompts com LLMS:
Chamada/ferramentas de função
Função chamando com LLMs por meio de diferentes provedores de modelos:
? Memória
Em breve
? Ingestão de dados
Leitores de documentos
Leitura e vetorização de documentos com LLMs via Ollama:
- JSON
- Markdown
- Pdf
- Texto
- Tika
Transformadores de documentos
Transformação de documentos com LLMS via Ollama:
- Metadados
Enriqueça documentos com palavras -chave e metadados resumidos para recuperação aprimorada. - Divisores
Divida os documentos em pedaços para se ajustar à janela de contexto LLM.
? Lojas vetoriais
Em breve
Geração Aumentada Recuperação (RAG)
Resposta de perguntas com documentos usando diferentes fluxos de pano (com Ollama e PGVector):
➡️ Rag sequencial
❔ Rano condicional
? Pano de ramificação
Observabilidade
? Observabilidade LLM
Observabilidade LLM para diferentes provedores de modelos:
? Observabilidade da loja de vetores
Observabilidade da loja de vetores para diferentes lojas de vetores:
? Avaliação
Em breve
? Agentes
Em breve
Referências e recursos adicionais
- Documentação de referência da AI da primavera
? Conferências
- Apresentando a Spring AI de Christian Tzolov e Mark Pollack (Spring E/O 2024)
- Spring AI é tudo o que você precisa de Christian Tzolov (Goto Amsterdam 2024)
- Concerto para Java e AI - Construindo Aplicações LLM prontas para produção por Thomas Vitale (Spring E/O 2024)
? Vídeos
- Construindo aplicações inteligentes com a IA da Spring por Dan Vega (JetBrains Live Stream)
- Spring AI Series de Dan Vega
- Spring AI Series de Craig Walls
- Spring AI Series de Josh Long
? Demos
- Suporte ao cliente da companhia aérea (Marcus Hellberg)
- Assistente de compositor (Thomas Vitale)
- Assistente de documentos (Marcus Hellberg)
- Reserva de voo (Christian Tzolov)
Workshops
- Primavera ai - zero para herói (Adib Saikali, Christian Tzolov)
- Aplicações de IA com Java e Spring AI (Thomas Vitale)