langboot

langboot

Langchain의 아이디어를 사용하여 SpringBoot AI 응용 프로그램을 구축하십시오.

이 프로젝트에는 AI 모델의 미세 조정 및 교육 프로세스가 포함되지 않습니다.

기술 스택 관련

구성 요소	버전
자바	17+
스프링 부츠	3.1.0
Swagger-ui	나이프4J- 오페나피 3- 자카르타 스프링-부트 스타터
툴킷	hutool-all
은닉처	레 디스
JSON	fastjson2
MySQL	MySQL-Connector-J
ORM 프레임 워크	mybatis-plus
Openai 라이브러리	Openai-Java
프론트 엔드	프리 마커, 부트 스트랩, jQuery, record.js
스트림 차트	SSE
LLMS	Openai, Chatglm2, Wen Xin Yiyan, Zhipu AI, Kimi
임베딩	Openai, Text2Vec-Transformers, Wen Xinyiyan
벡터 스토어	Weaviate, Milvus, PGVector

랑케인 래그 원리

모델 기능 매트릭스

모델/능력	텍스트 생성	스트리밍 출력	목소리	기능 호출	이미지 생성	멀티 모달 (비전)	임베딩
Openai	지원하다	지원하다	지원하다	지원하다	지원하다	지원하다	지원하다
바이두어 (웬신)	지원하다	지원하다	-	지원하다	지원하다	-	지원하다
스마트 점수 (GLM-4)	지원하다	지원하다	-	지원하다	지원하다	지원하다	지원하다
키미	지원하다	지원하다	-	-	-	-	-
chatglm2	지원하다	지원하다	-	-	-	-	-
... ...	-	-	-	-	-	-	-

기능적 로드맵

로컬 지식 기반 업로드가 완료되었으며 OpenAI, ChatGLM2, Baidu, Zhipu GLM-4 및 Kimi의 5 개의 LLM 모델의 스트리밍 채팅 기능이 완료되었습니다. 앞으로 더 많은 수요 시나리오를 충족시키기 위해 더 큰 언어 모델이 연결될 것입니다.

• 랑케인 지식 기반
  • 구조화되지 않은 문서에 대한 액세스 (MD, PDF, DOCX, TXT, CSV 등과 같은 파일 형식이 지원되었습니다)
  • 검색 엔진 액세스
  • 구조화 된 데이터 액세스 (예 : Excel, SQL 등)
  • 지식 그래프/그래픽 데이터베이스 액세스
• 시스템 기능
  • 사용자
    • 사용자 로그인
    • 사용자 등록
    • 타사 로그인
  • SSE를 기반으로 스트림 채팅을 구현하십시오
  • 음성 입력 및 출력
  • 세션 관리
  • 지식 기반 관리
  • 검색 엔진 Q & A를 지원합니다
• 관련 기능을 제기합니다
  • 요약
  • 번역하다
  • 키워드
  • 텍스트 분류
  • 컨텐츠 보안
  • 선호도 분석
  • 파운드를 확인하십시오
  • Wensheng 사진
• 프론트 엔드
  • 모바일 적응
  • 코드 및 기타 컨텐츠의 스트리밍 출력 최적화

빠른 시작

1. 데이터베이스 스크립트를 실행합니다

init - script / db . sql

2. 로컬 벡터 데이터베이스를 설치하십시오

-- 安装启动本地向量数据库
docker-compose up -d 

3. 큰 언어 모델

 // 配置openai api token
openai . token = sk - xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx 

 # 或者启动本地chatglm2-6B模型
python .o penai_api . py 

자세한 구성은 확인하십시오

위키

고품질 지식 기반 문서를 구축하는 방법

기능 표시

채팅 데모

지역 지식 기반

## 프로젝트 교환 그룹

이 프로젝트에 관심이 있으시면 Langchain-Springboot 프로젝트. 그룹 QR 코드가 만료 된 경우 개인 QR 코드를 스캔하여 그룹에 가입하십시오.