langboot

Égouter

Utilisez l'idée de Langchain pour construire des applications Springboot AI.

Ce projet n'implique pas le processus de réglage fin et de formation des modèles d'IA.

Pile technologique impliquée

Composants	Version
Java	17+
Chantant	3.1.0
swagger-ui	couteau4j-openapi3-jakarta-spring-boot-starter
Boîte à outils	hutool-all
cache	redis
json	Fastjson2
mysql	MySQL-Connector-J
cadre ORM	mybatis-plus
bibliothèque ouverte	openai-java
l'extrémité avant	Freemarker, bootstrap, jQuery, record.js
bavardage	SSE
LLMS	Openai, ChatGlm2, Wen Xin Yiyan, Zhipu Ai, Kimi
Incorporer	Openai, Text2Vec-Transformateurs, Wen Xinyiyan
magasin vectoriel	Weavate, milvus, pgvector

Principe Langchain Rag

Matrice de capacité du modèle

Modèle / capacité	Génération de texte	Sortie de streaming	voix	Appels de fonction	Génération d'images	Multimodal (vision)	Intégrer l'intégration
Openai	soutien	soutien	soutien	soutien	soutien	soutien	soutien
Baidu (wenxin)	soutien	soutien	-	soutien	soutien	-	soutien
Score intelligent (GLM-4)	soutien	soutien	-	soutien	soutien	soutien	soutien
kimi	soutien	soutien	-	-	-	-	-
chatglm2	soutien	soutien	-	-	-	-	-
... ...	-	-	-	-	-	-	-

Feuille de route fonctionnelle

Le téléchargement de la base de connaissances locale a été terminé et les fonctions de chat en streaming de cinq modèles LLMS: OpenAI, chatglm2, baidu, zhipu GLM-4 et Kimi ont été achevés. À l'avenir, des modèles de langage plus importants seront connectés pour répondre à plus de scénarios de demande.

• Base de connaissances Langchain
  • Accès à des documents non structurés (il a pris en charge des formats de fichiers tels que MD, PDF, DOCX, TXT, CSV, etc.)
  • Accès à des moteurs de recherche
  • Accès structuré des données (comme Excel, SQL, etc.)
  • Accès à la base de données graphique de connaissances / graphique
• Fonctions système
  • utilisateur
    • Connexion de l'utilisateur
    • Enregistrement des utilisateurs
    • Connexion tierce
  • Implémentez le chat de flux basé sur SSE
  • Entrée vocale et sortie
  • Gestion de session
  • Gestion de la base de connaissances
  • Prise en charge du moteur de recherche Q&R
• Invite les fonctions connexes
  • résumé
  • traduire
  • Mots clés
  • Classification de texte
  • Sécurité du contenu
  • Analyse des préférences
  • Vérifiez la livre
  • Image wensheng
• l'extrémité avant
  • Adaptation mobile
  • Optimisation de la sortie en streaming du code et d'autres contenus

Démarrage rapide

1. Exécuter les scripts de base de données

init - script / db . sql

2. Installez la base de données vectorielle locale

-- 安装启动本地向量数据库
docker-compose up -d 

3. Modèle de grande langue

 // 配置openai api token
openai . token = sk - xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx 

 # 或者启动本地chatglm2-6B模型
python .o penai_api . py 

Pour plus de configurations, veuillez vérifier

Wiki

Comment construire des documents de base de connaissances de haute qualité

Affichage de la fonction

Démo de chat

Base de connaissances locale

## Group d'échange de projet

? Langchain-Springboot Project WECKAT Communication Group. Si le code QR du groupe a expiré, veuillez analyser mon code QR personnel pour rejoindre le groupe