spring petclinic langchain4j

Genai Spring Petclinic Применение применения с помощью Langchain4J

Понимание приложения Spring Petclinic Langchain4J

Чат -бот, использующий генеративный ИИ, был добавлен в знаменитое весеннее Петклиновое приложение. В этой версии используется проект Langchain4J и в настоящее время поддерживает Openai или Azure Openai в качестве поставщика LLM . Это вилка от Spring-Petclinic-AI, основанный на Spring AI.

Этот образец демонстрирует, как легко интегрировать возможности AI/LLM в приложение Java с использованием LangChain4J . Это может быть достигнуто благодаря:

• Унифицированный слой абстракции , предназначенный для отделения вашего кода от конкретных реализаций, таких как LLM или поставщики встраивания, что позволяет легко обмениваться компонентом. Только приложение. Properties File References LLM -поставщики, такие как OpenAI или Azure OpenAI.
• Память предлагает контекст LLM как для ваших текущих, так и для предыдущих разговоров, при поддержке нескольких пользователей. Обратитесь к использованию класса MessageWindowChatMemory в AssistantConfiguration и аннотации @MemoryId в ассистентном интерфейсе.
• Службы ИИ обеспечивают декларативные определения сложного поведения ИИ с помощью простого Java API. Смотрите использование аннотации @AiService в ассистентном интерфейсе.
• Системные подсказки играют жизненно важную роль в LLM, поскольку они формируют, как модели интерпретируют и отвечают на запросы пользователей. Посмотрите на использование аннотации @SystemMessage в ассистентном интерфейсе.
• Потоковая реакция токена за токеном при использовании возврата TokenStream Type и Spring Server-Sent поддерживает. Посмотрите на контроллер REST AssistantController
• Функциональный вызов или инструменты позволяют LLM вызовать, при необходимости, один или несколько методов Java. Компонент AssistantTool объявляет функции с использованием аннотации @Tool от LangChain4J.
• Структурированные выходы позволяют получать ответы LLM в указанном формате в виде Java Pojos. AssistantTool использует записи Java в качестве структуры LLM/ входных/ выходных данных.
• Поизводимая генерация (RAG) позволяет LLM включать и реагировать на основе конкретных данных, таких как данные из базы данных PetClinic,-при употреблении и ссылке на их во время взаимодействия. AssistantConfiguration объявляет о EmbeddingModel , InMemoryEmbeddingStore и EmbeddingStoreContentRetriever Beans, в то время как класс EnvedingStoreInit занимается проглатыванием данных Vets при запуске. VetqueryRouter демонстрирует, как условное пропуск поиска с принятием решений, движимым LLM.

Spring Petclinic объединяет чат -бот, который позволяет вам взаимодействовать с приложением на естественном языке. Вот несколько примеров того, что вы могли бы спросить:

1. Пожалуйста, перечислите владельцев, которые приходят в клинику.
2. Сколько там ветеринарных кардиологов?
3. Есть ли владелец по имени Бетти? Как ее последнее имя?
4. У каких владельцев есть собаки?
5. Добавьте собаку для Бетти. Его зовут Мупси. Его день рождения 2 октября 2024 года.
6. Добавьте сегодняшний визит в Мупси.

Spring Petclinic в настоящее время поддерживает Openai или Azure Openai в качестве поставщика LLM. Чтобы начать spring-petlinic-langchain4j выполните следующие шаги:

1. Решите, какой поставщик вы хотите использовать. По умолчанию зависимость langchain4j-open-ai-spring-boot-starter включена. Вы можете изменить его на langchain4j-azure-open-ai-spring-boot-starter в pom.xml или в build.gradle , в зависимости от выбранного инструмента сборки.
2. Создайте ключ API OpenAI или ресурс Azure Openai на вашем портале Azure. Обратитесь к документации Openai's QuickStart или Azure для получения дополнительной информации о том, как их получить. Вам нужно только заполнить поставщика, которого вы используете - либо Openai, либо Azure -Openai. Если у вас нет собственного ключа API Openai, не волнуйтесь! Вы можете временно использовать demo -ключ, который OpenAI предоставляет бесплатно для демонстрационных целей. Этот demo ключ имеет квоту, ограничена моделью GPT-4O-Mini и предназначена исключительно для демонстрационного использования.
3. Экспортируйте свои клавиши API и конечную точку как переменные среды:
   • Либо Openai:

    export OPENAI_API_KEY= " your_api_key_here "

   • или azure openai:

    export AZURE_OPENAI_ENDPOINT= " https://your_resource.openai.azure.com "
   export AZURE_OPENAI_KEY= " your_api_key_here "

4. Следуйте следующему разделу. Запустите Петклинические локально

Запустите петлинические локально

Spring Petclinic - это приложение Spring Boot, созданное с использованием Maven или Gradle. Вы можете построить файл JAR и запустить его из командной строки (он должен работать так же хорошо с Java 17 или новым):

git clone https://github.com/spring-petclinic/spring-petclinic-langchain4j.git
cd spring-petclinic
./mvnw package
java -jar target/ * .jar

Затем вы можете получить доступ к Petclinic на http: // localhost: 8080/.

Или вы можете запустить его от Maven напрямую, используя плагин Spring Boot Maven. Если вы сделаете это, это сразу же приведет к изменениям в проекте (изменения в исходных файлах Java также требуют компиляции - большинство людей используют IDE для этого):

./mvnw spring-boot:run

Примечание. Если вы предпочитаете использовать Gradle, вы можете построить приложение с помощью ./gradlew build и поиск файла JAR в build/libs .

Построение контейнера

В этом проекте нет Dockerfile . Вы можете построить изображение контейнера (если у вас есть Docker Daemon), используя плагин Spring Boot Build:

./mvnw spring-boot:build-image

Если вы найдете ошибку/предложенное улучшение для Spring Petclinic

Наш трекер проблемы доступен здесь.

Конфигурация базы данных

В своей конфигурации по умолчанию Petclinic использует базу данных в памяти (H2), которая заполняется при запуске с данными. Консоль H2 выявляется по http://localhost:8080/h2-console , и можно осмотреть содержание базы данных, используя jdbc:h2:mem:<uuid> URL. UUID печатается при стартапе в консоли.

Аналогичная настройка предусмотрена для MySQL и PostgreSQL, если необходима постоянная конфигурация базы данных. Обратите внимание, что всякий раз, когда изменяется тип базы данных, приложение должно работать с другим профилем: spring.profiles.active=mysql для mysql или spring.profiles.active=postgres для postgresql. Смотрите документацию Spring Boot для получения более подробной информации о том, как установить активный профиль.

Вы можете начать MySQL или PostgreSQL локально с любым устройством установщика для вашей ОС или использовать Docker:

docker run -e MYSQL_USER=petclinic -e MYSQL_PASSWORD=petclinic -e MYSQL_ROOT_PASSWORD=root -e MYSQL_DATABASE=petclinic -p 3306:3306 mysql:8.4

или

docker run -e POSTGRES_USER=petclinic -e POSTGRES_PASSWORD=petclinic -e POSTGRES_DB=petclinic -p 5432:5432 postgres:16.3

Дополнительная документация предоставлена ​​для MySQL и PostgreSQL.

Вместо ванильного docker вы также можете использовать предоставленный файл docker-compose.yml для запуска контейнеров базы данных. У каждого есть профиль, как и пружинный профиль:

docker-compose --profile mysql up

или

docker-compose --profile postgres up

Тестируйте приложения

При разработке мы рекомендуем использовать тестовые приложения, установленные в качестве main() методов в PetClinicIntegrationTests (с использованием базы данных H2 по умолчанию, а также добавление Spring Boot Devtools), MySqlTestApplication и PostgresIntegrationTests . Они настроены так, чтобы вы могли запустить приложения в своей IDE, чтобы получить быструю обратную связь, а также запустить те же классы, что и интеграционные тесты в соответствии с соответствующей базой данных. Интеграционные тесты MySQL используют TestContainers для запуска базы данных в контейнере Docker, а в тестах Postgres используются Docker Compose для того, чтобы сделать то же самое.

Скомпилирование CSS

Существует petclinic.css в src/main/resources/static/resources/css . Он был сгенерирован из источника petclinic.scss , в сочетании с библиотекой Bootstrap. Если вы внесете изменения в scss или обновите начальную загрузку, вам необходимо будет пересекать ресурсы CSS, используя профиль Maven «CSS», то есть ./mvnw package -P css . Для составления CSS нет профиля сборки.

Работа с Petclinic в вашей IDE

Предварительные условия

В вашей системе следует установить следующие элементы:

• Java 17 или новее (полный JDK, а не JRE)
• Инструмент командной строки GIT
• Ваш предпочтительный IDE
  • Затмение с плагином M2E. Примечание. Когда M2E доступен, в Help -> About диалоге. Если M2E не там, следуйте процессу установки здесь
  • Spring Tools Suite (STS)
  • INTELLIJ IDEA
  • Против кода

Шаги

1. В командной строке запустить:

   git clone https://github.com/spring-petclinic/spring-petclinic-langchain4j.git

2. Внутри затмения или STS:

   Откройте проект через File -> Import -> Maven -> Existing Maven project , затем выберите корневой каталог клонированного репо.

   Затем либо создайте командную строку ./mvnw generate-resources , либо используйте запуск Eclipse (щелкните правой кнопкой мыши на проекте и Run As -> Maven install ) для генерации CSS. Запустите основной метод приложения, щелкнув правой кнопкой мыши и выбрав Run As -> Java Application .

3. Inside Intellij Idea:

   В главном меню выберите File -> Open и выберите Petclinic pom.xml. Нажмите на кнопку Open .

   • Файлы CSS генерируются из сборки Maven. Вы можете построить их на командной строке ./mvnw generate-resources или щелкнуть правой кнопкой мыши по проекту spring-petclinic а затем Maven -> Generates sources and Update Folders .

   • Для вас должна была быть создана конфигурация запуска с именем PetClinicApplication , если вы используете недавнюю конечную версию. В противном случае запустите приложение, щелкнув правой кнопкой мыши по основному классу PetClinicApplication и выбирая Run 'PetClinicApplication' .

4. Перейти к Петклиническому

   Посетите http: // localhost: 8080 в вашем браузере.

Ищете что -нибудь конкретное?

Конфигурация пружинной загрузки	Файлы свойств класса или Java
Главный класс	PetclinicApplication
Свойства файлы	Application.properties
Кэширование	Качеконфигурация

Интересные весенние петлинические ветви и вилки

Весенняя петлиническая «основная» ветвь в пружине-проектах Github Org представляет собой «каноническую» реализацию, основанную на Spring Boot и Thymeleaf. В Github Org Spring-Petclinic есть довольно много вилок. Если вы заинтересованы в использовании другого технологического стека для реализации клиники для домашних животных, присоединяйтесь к сообществу там.

Взаимодействие с другими проектами с открытым исходным кодом

Одной из лучших частей работы над весенним приложением Petclinic является то, что у нас есть возможность работать в прямом контакте со многими проектами с открытым исходным кодом. Мы нашли ошибки/предложенные улучшения по различным темам, таким как пружинные данные, проверка бобов и даже затмение! Во многих случаях они были исправлены/реализованы всего за несколько дней. Вот их список:

Имя	Проблема
Spring JDBC: упростите использование natedParameterJdbctemplate	SPR-10256 и SPR-10257
Валидация фасоли / witrnate valydator: упростите зависимости Maven и обратную совместимость	HV-790 и HV-792
Данные пружины: обеспечить большую гибкость при работе с запросами JPQL	DataJPA-292

Внося

Проблема Tracker - это предпочтительный канал для отчетов об ошибках, запросов функций и отправки запросов на привлечение.

Для получения запросов на предпочтения редактора доступны в конфигурации редактора для удобного использования в общих текстовых редакторах. Подробнее и скачать плагины по адресу https://editorconfig.org. Если вы ранее не сделали этого, пожалуйста, заполните и отправьте соглашение о лицензии участника.

Лицензия

Приложение Spring Petclinic Sample выпускается в соответствии с версией 2.0 лицензии Apache.