Java & Spring AI를 사용한 LLM 및 AI 주입 응용 프로그램
Spring AI를 사용하여 생성 AI 및 LLM (Lange Language Models)으로 구동되는 Java 응용 프로그램을 구축하는 방법을 보여주는 샘플.
사전 반품
사용 사례
? Ollama를 통한 LLM을 사용하는 챗봇 챗봇.
❓ Ollama 및 PGVector를 통한 LLM을 사용하여 문서 (RAG)로 답변하는 질문에 대한 질문 에 대한 질문 .
? Ollama 및 PGVector를 통한 LLM을 사용한 시맨틱 검색 시맨틱 검색.
구조화 된 데이터 추출
Ollama를 통한 LLM을 사용한 구조화 된 데이터 추출.
allama를 통한 LLMS를 사용한 텍스트 분류 텍스트 분류.
? 모델
채팅 모델
다른 모델 제공 업체를 통해 LLMS로 채팅 완료 :
- 미스트랄 ai
- 올라마
- Openai
- 다수의 공급자
? 임베딩 모델
다른 모델 제공 업체를 통한 LLMS와 벡터 변환 (임베딩) :
- 미스트랄 ai
- 올라마
- Openai
- Onnx 변압기
? 이미지 모델
다른 모델 제공 업체를 통한 LLM을 사용한 이미지 생성 :
? 오디오 모델
다른 모델 제공 업체를 통한 LLM의 음성 생성 :
다른 모델 제공 업체를 통한 LLM과의 음성 전사 :
? ️ 중재 모델
곧 올 것입니다
? 패턴
프롬프트, 메시지 및 템플릿
간단한 텍스트를 사용하여 프롬프트 :
구조화 된 메시지 및 역할을 사용하는 프롬프트 :
템플릿을 사용하는 프롬프트 :
구조화 된 출력
LLM 출력을 구조화 된 JSON 및 Java 객체로 변환 :
다분위
LLMS와 함께 다양한 미디어 포함 :
기능 호출/도구
다른 모델 제공 업체를 통해 LLM으로 호출 :
? 메모리
곧 올 것입니다
? 데이터 수집
문서 독자
Ollama를 통한 LLMS로 문서를 읽고 벡터화합니다.
문서 변압기
Ollama를 통한 LLM으로 문서 변환 :
- 메타 데이터
강화 된 검색을 위해 키워드 및 요약 메타 데이터로 문서를 풍부하게하십시오. - 스플리터
LLM 컨텍스트 창에 맞게 문서를 청크로 나눕니다.
? 벡터 저장
곧 올 것입니다
검색 증강 세대 (rag)
다른 헝겊 흐름 (Ollama 및 PGVector 포함)을 사용하여 문서에 대한 질문 :
➡️ 순차 래그
❔ 컨디셔닝 헝겊
? 분기 걸레
관찰 가능성
? LLM 관찰 가능성
다른 모델 제공 업체에 대한 LLM 관찰 가능성 :
? 벡터 저장 관찰 가능성
다른 벡터 저장에 대한 벡터 매장 관찰 가능성 :
? 평가
곧 올 것입니다
? 자치령 대표
곧 올 것입니다
참조 및 추가 리소스
? 회의
- Christian Tzolov와 Mark Pollack의 Spring AI 소개 (Spring I/O 2024)
- Spring AI는 Christian Tzolov (Goto Amsterdam 2024)의 모든 것입니다.
- Java 및 AI를위한 협주곡 - Thomas Vitale의 건물 생산 준비 LLM 응용 프로그램 (Spring I/O 2024)
? 비디오
- Dan Vega의 Spring AI를 사용하여 지능형 응용 프로그램 구축 (JetBrains Live Stream)
- Dan Vega의 Spring AI 시리즈
- Craig Walls의 스프링 AI 시리즈
- Josh Long의 Spring AI 시리즈
? 시민
- 항공사 고객 지원 (Marcus Hellberg)
- 작곡가 (Thomas Vitale)
- 문서 보조원 (Marcus Hellberg)
- 비행 예약 (Christian Tzolov)
워크샵
- Spring Ai -Zero to Hero (Adib Saikali, Christian Tzolov)
- Java 및 Spring AI (Thomas Vitale)와 AI 응용 프로그램