langboot

LangBoot

用langchain的思想，構建SpringBoot AI應用。

本項目未涉及AI模型的微調、訓練過程，僅使用相關大語言模型作為技術底座實現相關功能，模型的使用請參看相關官方文檔。

涉及技術棧

組件	版本
java	17+
SpringBoot	3.1.0
swagger-ui	knife4j-openapi3-jakarta-spring-boot-starter
工具包	hutool-all
快取	redis
json	fastjson2
mysql	mysql-connector-j
orm框架	mybatis-plus
openai庫	openai-java
前端	freemarker、bootstrap、jquery、recorder.js
stream-chat	SSE
LLMs	openai、chatglm2、文心一言、智譜AI、Kimi
embeddings	openai、text2vec-transformers、文心一言
vector store	weaviate、milvus、pgvector

langchain rag原理

模型能力矩陣

模型/能力	文本生成	流式輸出	語音	函數調用	圖片生成	多模態(VISION)	嵌入EMBEDDING
openai	支持	支持	支持	支持	支持	支持	支持
百度(文心)	支持	支持	-	支持	支持	-	支持
智譜(GLM-4)	支持	支持	-	支持	支持	支持	支持
kimi	支持	支持	-	-	-	-	-
chatglm2	支持	支持	-	-	-	-	-
... ...	-	-	-	-	-	-	-

功能路線圖

已完成本地知識庫上傳、及完成openai、chatglm2、百度、智譜GLM-4、kimi五個LLMs模型流式聊天功能。未來計劃會接入更多大語言模型，以滿足更多需求場景。

• Langchain 知識庫
  • 接入非結構化文檔（已支持md、pdf、docx、txt、csv 等文件格式）
  • 搜索引擎接入
  • 結構化數據接入（如Excel、SQL 等）
  • 知識圖譜/圖數據庫接入
• 系統功能
  • 用戶
    • 用戶登錄
    • 用戶註冊
    • 第三方登錄
  • 基於SSE 實現Stream Chat
  • 語音輸入輸出
  • 會話管理
  • 知識庫管理
  • 支持搜索引擎問答
• prompts相關功能
  • 摘要
  • 翻譯
  • 關鍵詞
  • 文本分類
  • 內容安全
  • 偏好分析
  • 查重
  • 文生圖
• 前端
  • 移動端適配
  • 代碼等內容流式輸出優化

Quick Start

1. 執行數據庫腳本

init - script / db . sql

2. 安裝本地向量數據庫

-- 安装启动本地向量数据库
docker-compose up -d 

3. 大語言模型

 // 配置openai api token
openai . token = sk - xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx 

 # 或者启动本地chatglm2-6B模型
python .o penai_api . py 

更多配置請查看

Wiki

如何構建高質量知識庫文檔

功能展示

聊天Demo

本地知識庫

## 項目交流群

? langchain-springboot 項目微信交流群，如果你也對本項目感興趣，歡迎加入群聊參與討論交流。如群二維碼已過期請掃我的個人二維碼拉入群