Приложения LLM и AI с Java & Spring AI
Образцы, показывающие, как создавать Java -приложения, основанные на генеративных моделях ИИ и крупных языков (LLMS), используя Spring AI.
Предварительные условия
Варианты использования
? Чатбот чат -бот с использованием LLMS через Ollama.
❓ Вопрос ответа на вопрос, отвечающий документами (RAG) с использованием LLMS через Ollama и PGVector.
? Семантический поиск семантического поиска с использованием LLMS через Ollama и PGVector.
Структурированное извлечение данных
Структурированное извлечение данных с использованием LLMS через OLLAMA.
️ Классификация текстовой классификации текстовой классификации с использованием LLMS через Ollama.
? Модели
Модели чата
Завершение чата с LLMS через разные поставщики моделей:
- Мистраль Ай
- Оллама
- Openai
- Несколько провайдеров
? Встраиваемые модели
Трансформация вектора (встраивания) с LLMs через разные поставщики моделей:
- Мистраль Ай
- Оллама
- Openai
- Onnx Transformers
? Модели изображений
Генерация изображений с LLMS через разные поставщики моделей:
? Аудио модели
Генерация речи с LLMS через разные поставщики моделей:
Транскрипция речи с LLMS через разные поставщики моделей:
? ️ модели модерации
Вскоре
? Узоры
Подсказки, сообщения и шаблоны
Подсказка с использованием простого текста:
Подсказка с использованием структурированных сообщений и ролей:
Подсказка с использованием шаблонов:
Структурированный выход
Преобразование вывода LLM в структурированные объекты JSON и Java:
Мультимодальность
В том числе различные средства массовой информации в подсказки с LLMS:
Функция вызова/инструменты
Вызов функции с LLMS через разные поставщики моделей:
- Мистраль Ай
- Оллама
- Openai
? Память
Вскоре
? Проглатывание данных
Документированные читатели
Чтение и векторизация документов с LLMS через Ollama:
- Json
- Отметка
- PDF
- Текст
- Тика
Трансформаторы документов
Преобразование документа с LLMS через Ollama:
- Метаданные
Enrich Documents с ключевыми словами и резюме метаданных для расширенного поиска. - Расщепления
Разделите документы на куски, чтобы соответствовать окну контекста LLM.
? Векторные магазины
Вскоре
Поиск дополненного поколения (Rag)
Вопрос, отвечающий документами с использованием различных тряпичных потоков (с Ollama и PGVector):
➡ Последовательная тряпка
❔ условная тряпка
? Ветвящая тряпка
Наблюдаемость
? LLM наблюдаемость
Наблюдаемость LLM для различных поставщиков моделей:
- Мистраль Ай
- Оллама
- Openai
? Вектор хранилище наблюдаемость
Векторная хранилище наблюдаемость для различных векторных магазинов:
? Оценка
Вскоре
? Агенты
Вскоре
Ссылки и дополнительные ресурсы
- Справочная документация Spring AI
? Конференции
- Представляем весенний ИИ Кристиана Цолова и Марка Поллака (весна ввода/вывода 2024 года)
- Весенний ИИ - это все, что вам нужно от Кристиана Цолов (Goto Amsterdam 2024)
- Концерт для Java и AI - готовые к производству LLM -приложения Thomas Vitale (весна I/O 2024)
? Видео
- Создание интеллектуальных приложений с весенним искусственным интеллектом Дэна Вега (Jetbrains Live Stream)
- Spring AI Series от Dan Vega
- Spring AI Series от Craig Walls
- Spring AI Series от Джоша Лонга
? Демо
- Поддержка клиентов авиакомпании (Маркус Хеллберг)
- Помощник композитора (Томас Витале)
- Помощник документа (Маркус Хеллберг)
- Бронирование полета (Кристиан Цолов)
Мастерские
- Весенний ИИ - Ноль для героя (Адиб Сакали, Кристиан Цолов)
- Приложения ИИ с Java и Spring AI (Thomas Vitale)