langboot

Langboot

Verwenden Sie die Idee von Langchain, um Springboot -AI -Anwendungen zu erstellen.

Dieses Projekt umfasst nicht den Feinabstimmung und den Schulungsprozess von KI-Modellen.

Tech Stack involviert

Komponenten	Version
Java	17+
Springboot	3.1.0
Swagger-ui	Knife4J-OpenAPI3-Jakarta-Spring-Boot-Starter
Toolkit	Hutool-All
Cache	Redis
JSON	FASTJSON2
Mysql	Mysql-Connector-J
Orm Framework	mybatis-plus
OpenAI -Bibliothek	Openai-Java
Frontend	Freemarker, Bootstrap, jQuery, record.js
Stream-Chat	SSE
Llms	Openai, Chatglm2, wen Xin Yiyan, Zhipu AI, Kimi
Einbettungen	Openai, Text2VEC-Transformatoren, Wen Xinyiyan
Vektor Store	Waviate, Milvus, PGVector

Langchain Rag Prinzip

Modellfähigkeitsmatrix

Modell/Fähigkeit	Textgenerierung	Streaming -Ausgang	Stimme	Funktionsaufrufe	Bildgenerierung	Multimodal (Vision)	Einbettung einbetten
Openai	Unterstützung	Unterstützung	Unterstützung	Unterstützung	Unterstützung	Unterstützung	Unterstützung
Baidu (Wenxin)	Unterstützung	Unterstützung	- -	Unterstützung	Unterstützung	- -	Unterstützung
Smart Score (GLM-4)	Unterstützung	Unterstützung	- -	Unterstützung	Unterstützung	Unterstützung	Unterstützung
Kimi	Unterstützung	Unterstützung	- -	- -	- -	- -	- -
Chatglm2	Unterstützung	Unterstützung	- -	- -	- -	- -	- -
... ...	- -	- -	- -	- -	- -	- -	- -

Funktionelle Roadmap

Der lokale Knowledge-Basis-Upload wurde abgeschlossen und die Streaming-Chat-Funktionen von fünf LLMS-Modellen: OpenAI, Chatglm2, Baidu, Zhipu GLM-4 und Kimi wurden abgeschlossen. In Zukunft werden mehr große Sprachmodelle angeschlossen, um mehr Nachfrage -Szenarien zu erfüllen.

• Langchain -Wissensbasis
  • Zugriff auf unstrukturierte Dokumente (es wurden Dateiformate wie MD, PDF, DOCX, TXT, CSV usw. unterstützt)
  • Suchmaschinenzugriff
  • Strukturierter Datenzugriff (wie Excel, SQL usw.)
  • Wissensgrafik-/Grafikdatenbankzugriff
• Systemfunktionen
  • Benutzer
    • Benutzeranmeldung
    • Benutzerregistrierung
    • Login von Drittanbietern
  • Implementieren Sie Stream -Chat basierend auf SSE
  • Spracheingang und Ausgabe
  • Sitzungsmanagement
  • Wissensbasismanagement
  • Unterstützen Sie Suchmaschinen Q & A -Antworten
• Fordert verwandte Funktionen auf
  • Zusammenfassung
  • übersetzen
  • Schlüsselwörter
  • Textklassifizierung
  • Inhaltssicherheit
  • Präferenzanalyse
  • Überprüfen Sie das Pfund
  • Wensheng Bild
• Frontend
  • Mobile Anpassung
  • Optimierung der Streamingausgabe von Code und anderen Inhalten

Schneller Start

1. Führen Sie Datenbankskripte aus

init - script / db . sql

2. Installieren Sie die lokale Vektordatenbank

-- 安装启动本地向量数据库
docker-compose up -d 

3.. Großes Sprachmodell

 // 配置openai api token
openai . token = sk - xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx 

 # 或者启动本地chatglm2-6B模型
python .o penai_api . py 

Weitere Konfigurationen finden Sie unter

Wiki

So bauen Sie hochwertige Wissensbasisdokumente auf

Funktionsanzeige

Chat -Demo

Lokale Wissensbasis

## Projektaustauschgruppe

? Wenn der QR -Code der Gruppe abgelaufen ist, scannen Sie bitte meinen persönlichen QR -Code, um der Gruppe beizutreten