spring petclinic langchain4j

Genai Spring Petclinic Sample Application Build con LangChain4J

Comprender la aplicación Spring Petclinic Langchain4j

Se ha agregado un chatbot usando IA generativo a la famosa aplicación de petclinic de primavera. Esta versión utiliza el proyecto LangChain4J y actualmente admite OpenAI o Azure's OpenAI como proveedor de LLM . Esta es una bifurcación del Spring-Petclinic-AI basado en la IA de primavera.

Esta muestra demuestra cómo integrar fácilmente las capacidades AI/LLM en una aplicación Java usando Langchain4j . Esto se puede lograr gracias a:

• Una capa de abstracción unificada diseñada para desacoplar su código a partir de implementaciones específicas como LLM o incrustar proveedores, lo que permite intercambiar componentes fáciles. Solo los proveedores de archivos de la aplicación.
• La memoria ofrece contexto a la LLM para sus conversaciones actuales y anteriores, con soporte para múltiples usuarios. Consulte el uso de la clase MessageWindowChatMemory en Asistente Configuración y la anotación @MemoryId en la interfaz de asistente.
• AI Services permite definiciones declarativas de comportamientos complejos de IA a través de una API Java directa. Vea el uso de la anotación @AiService en la interfaz de asistente.
• Las indicaciones del sistema juegan un papel vital en LLMS mientras dan forma a la forma en que los modelos interpretan y responden a las consultas de los usuarios. Mire el uso de anotaciones de @SystemMessage en la interfaz de asistente.
• Respuesta de transmisión Token-by-token cuando se usa el tipo de retorno TokenStream y los eventos de Spring Servidor se admiten. Eche un vistazo al controlador de descanso Asistente Controller
• Las llamadas de funciones o las herramientas permiten que la LLM llame, cuando sea necesario, uno o más métodos Java. El componente AssistantTool declara funciones utilizando la anotación @Tool de Langchain4j.
• Las salidas estructuradas permiten que las respuestas LLM se reciban en un formato especificado como Java Pojos. AssistantTool utiliza registros Java como la estructura de datos LLM/ Entrada/ salida.
• La generación de recuperación de la generación (RAG) permite que una LLM incorpore y responda en función de datos específicos, como datos de la base de datos PETClinic, ingiriéndolo y referencia durante las interacciones. La Configuración Asistente declara los frijoles EmbeddingModel , InMemoryEmbeddingStore y EmbeddingStoreContentRetriever mientras que la clase Incredding Storeinit maneja la ingestión de datos de los veterinarios al inicio. El VetQueryRouter demuestra cómo omitir condicionalmente la recuperación, con la toma de decisiones impulsada por un LLM.

Spring Petclinic integra un chatbot que le permite interactuar con la aplicación en un lenguaje natural. Aquí hay algunos ejemplos de lo que podría preguntar:

1. Enumere a los propietarios que vienen a la clínica.
2. ¿Cuántos cardiólogos veterinarios hay?
3. ¿Hay un propietario llamado Betty? ¿Cuál es su último nombre?
4. ¿Qué dueños tienen perros?
5. Agregue un perro para Betty. Su nombre es Moopsie. Su cumpleaños es el 2 de octubre de 2024.
6. Agregue la visita de hoy a Moopsie.

Spring Petclinic actualmente es compatible con OpenAi o Azure's OpenAI como proveedor de LLM. Para comenzar spring-petlinic-langchain4j realice los siguientes pasos:

1. Decida qué proveedor desea usar. Por defecto, la dependencia de langchain4j-open-ai-spring-boot-starter está habilitada. Puede cambiarlo a langchain4j-azure-open-ai-spring-boot-starter en pom.xml o en build.gradle , dependiendo de su herramienta de compilación de elección.
2. Cree una tecla API OpenAI o un recurso Azure OpenAI en su portal Azure. Consulte la documentación QuickStart o Azure de OpenAI para obtener más información sobre cómo obtenerlos. Solo necesita llenar el proveedor que está utilizando, ya sea Openai o Azure -Openai. Si no tiene su propia tecla API Operai, ¡no se preocupe! Puede usar temporalmente la clave demo , que OpenAI proporciona gratuitamente para fines de demostración. Esta clave demo tiene una cuota, se limita al modelo GPT-4O-Mini y está destinada únicamente al uso de demostración.
3. Exporte sus claves API y punto final como variables de entorno:
   • O OPENAI:

    export OPENAI_API_KEY= " your_api_key_here "

   • o Azure Openai:

    export AZURE_OPENAI_ENDPOINT= " https://your_resource.openai.azure.com "
   export AZURE_OPENAI_KEY= " your_api_key_here "

4. Siga la siguiente sección Ejecutar Petclinic localmente

Ejecutar Petclinic localmente

Spring Petclinic es una aplicación de arranque de primavera construida con Maven o Gradle. Puede crear un archivo jar y ejecutarlo desde la línea de comando (debería funcionar igual de bien con Java 17 o más nuevo):

git clone https://github.com/spring-petclinic/spring-petclinic-langchain4j.git
cd spring-petclinic
./mvnw package
java -jar target/ * .jar

Luego puede acceder al Petclinic en http: // localhost: 8080/.

O puede ejecutarlo desde Maven directamente usando el complemento Maven Boot Spring. Si hace esto, recogerá los cambios que realiza en el proyecto de inmediato (los cambios en los archivos fuente de Java también requieren una compilación: la mayoría de las personas usan un IDE para esto):

./mvnw spring-boot:run

Nota: Si prefiere usar Gradle, puede construir la aplicación usando ./gradlew build y buscar el archivo JAR en build/libs .

Construyendo un contenedor

No hay Dockerfile en este proyecto. Puede construir una imagen de contenedor (si tiene un Docker Daemon) usando el complemento de compilación de arranque de Spring:

./mvnw spring-boot:build-image

En caso de que encuentre un error/mejora sugerida para Spring Petclinic

Nuestro rastreador de problemas está disponible aquí.

Configuración de la base de datos

En su configuración predeterminada, PetClinic utiliza una base de datos en memoria (H2) que se pobla al inicio con los datos. La consola H2 está expuesta en http://localhost:8080/h2-console , y es posible inspeccionar el contenido de la base de datos utilizando el jdbc:h2:mem:<uuid> URL. El UUID se imprime al inicio de la consola.

Se proporciona una configuración similar para MySQL y PostgreSQL si se necesita una configuración de base de datos persistente. Tenga en cuenta que cada vez que cambia el tipo de base de datos, la aplicación debe ejecutarse con un perfil diferente: spring.profiles.active=mysql para mysql o spring.profiles.active=postgres para postgresql. Consulte la documentación de arranque de primavera para obtener más detalles sobre cómo establecer el perfil activo.

Puede iniciar MySQL o PostgreSQL localmente con cualquier instalador que funcione para su sistema operativo o usar Docker:

docker run -e MYSQL_USER=petclinic -e MYSQL_PASSWORD=petclinic -e MYSQL_ROOT_PASSWORD=root -e MYSQL_DATABASE=petclinic -p 3306:3306 mysql:8.4

o

docker run -e POSTGRES_USER=petclinic -e POSTGRES_PASSWORD=petclinic -e POSTGRES_DB=petclinic -p 5432:5432 postgres:16.3

Se proporciona una documentación adicional para MySQL y PostgreSQL.

En lugar de Vanilla docker , también puede usar el archivo docker-compose.yml proporcionado para iniciar los contenedores de la base de datos. Cada uno tiene un perfil como el perfil de primavera:

docker-compose --profile mysql up

o

docker-compose --profile postgres up

Aplicaciones de prueba

En el momento de desarrollo, le recomendamos que use las aplicaciones de prueba configuradas como métodos main() en PetClinicIntegrationTests (utilizando la base de datos H2 predeterminada y también agregue los devitos de arranque de Spring), MySqlTestApplication y PostgresIntegrationTests . Estos están configurados para que pueda ejecutar las aplicaciones en su IDE para obtener comentarios rápidos y también ejecutar las mismas clases que las pruebas de integración en la base de datos respectiva. Las pruebas de integración de MySQL usan TestContainers para iniciar la base de datos en un contenedor Docker, y las pruebas de Postgres usan Docker componen para hacer lo mismo.

Compilando el CSS

Hay un petclinic.css en src/main/resources/static/resources/css . Se generó a partir de la fuente petclinic.scss , combinada con la biblioteca de bootstrap. Si realiza cambios en el scss o actualiza Bootstrap, deberá volver a compilar los recursos CSS utilizando el perfil de Maven "CSS", es decir, ./mvnw package -P css . No hay perfil de compilación para Gradle para compilar el CSS.

Trabajar con Petclinic en su IDE

Requisitos previos

Los siguientes elementos deben instalarse en su sistema:

• Java 17 o más nuevo (JDK completo, no un JRE)
• Herramienta de línea de comandos git
• Tu ide preferido
  • Eclipse con el complemento M2E. Nota: Cuando M2E está disponible, hay un icono M2 en Help -> About del cuadro de diálogo. Si M2E no está allí, siga el proceso de instalación aquí
  • Spring Tools Suite (STS)
  • Idea intelij
  • VS Código

Pasos

1. En la línea de comando ejecutar:

   git clone https://github.com/spring-petclinic/spring-petclinic-langchain4j.git

2. Inside Eclipse o STS:

   Abra el proyecto a través File -> Import -> Maven -> Existing Maven project , luego seleccione el directorio raíz del repositorio clonado.

   Luego construya en la línea de comandos ./mvnw generate-resources o use el lanzador de eclipse (haga clic con el botón derecho en el proyecto y Run As -> Maven install ) para generar el CSS. Ejecute el método principal de la aplicación haciendo clic derecho en él y eligiendo Run As -> Java Application .

3. IDEA DE INTRELACIÓN DEL INTERNEL:

   En el menú principal, elija File -> Open y seleccione el pom.xml petclinic. Haga clic en el botón Open .

   • Los archivos CSS se generan a partir de la compilación Maven. Puede construirlos en la línea de comandos ./mvnw generate-resources o hacer clic derecho en el proyecto spring-petclinic y luego Maven -> Generates sources and Update Folders .

   • Una configuración de ejecución llamada PetClinicApplication debería haber sido creada para usted si está utilizando una versión Ultimate reciente. De lo contrario, ejecute la solicitud haciendo clic derecho en la clase principal PetClinicApplication y eligiendo Run 'PetClinicApplication' .

4. Navegar al petclinic

   Visite http: // localhost: 8080 en su navegador.

¿Buscas algo en particular?

Configuración de arranque de primavera	Archivos de propiedad de clase o Java
La clase principal	Petclinicapplication
Archivos de propiedades	Aplicación. Properties
Almacenamiento en caché	Condición de caché

Interesantes ramas y horquillas de petclinic de primavera

La rama de Spring Petclinic "principal" en la organización de GitHub de primavera es la implementación "canónica" basada en el arranque de primavera y el thymeleaf. Hay bastantes tenedores en el GitHub org-Petclinic. Si está interesado en utilizar una pila de tecnología diferente para implementar la clínica de mascotas, únase a la comunidad allí.

Interacción con otros proyectos de código abierto

Una de las mejores partes sobre trabajar en la aplicación Spring Petclinic es que tenemos la oportunidad de trabajar en contacto directo con muchos proyectos de código abierto. ¡Encontramos errores/mejoras sugeridas en varios temas como Spring, Spring Data, Bean Validation e incluso Eclipse! En muchos casos, se han solucionado/implementado en solo unos días. Aquí hay una lista de ellos:

Nombre	Asunto
Spring JDBC: Simplifique el uso de NamedParameterJDBCTemplate	SPR-10256 y SPR-10257
Validación de Bean / Validador de Hibernate: Simplifique las dependencias de Maven y la compatibilidad hacia atrás	HV-790 y HV-792
Datos de resorte: proporcione más flexibilidad cuando se trabaje con consultas JPQL	DataJPA-292

Que contribuye

El rastreador de problemas es el canal preferido para informes de errores, solicitudes de funciones y envío de solicitudes de extracción.

Para las solicitudes de extracción, las preferencias del editor están disponibles en la configuración del editor para usar fácilmente en editores de texto comunes. Lea más y descargue complementos en https://editorconfig.org. Si no lo ha hecho anteriormente, complete y envíe el acuerdo de licencia de contribuyente.

Licencia

La aplicación Spring Petclinic Sample se lanza bajo la versión 2.0 de la licencia Apache.