langboot

Langboot

Use la idea de Langchain para construir aplicaciones SpringBoot AI.

Este proyecto no implica el proceso de ajuste y capacitación de los modelos de IA.

Pila tecnológica involucrada

Componentes	Versión
Java	17+
Brote	3.1.0
swagger-ui	cuchillo4j-openapi3-jakarta-spring-boot-starter
Kit de herramientas	hutool-todo
cache	rehacer
json	FastJson2
mysql	MySQL-Connector-J
marco de ORM	mybatis-plus
Biblioteca Operai	OPERAI-JAVA
Interfaz	Freemarker, Bootstrap, jQuery, Record.js
ribete	SSE
LLMS	Openai, Chatglm2, Wen Xin Yiyan, Zhipu Ai, Kimi
Incrustaciones	OpenAI, Text2Vec-Transformers, Wen Xinyiyan
tienda de vectores	Weaviate, Milvus, Pgvector

Principio de trapo de Langchain

Matriz de capacidad de modelo

Modelo/habilidad	Generación de texto	Salida de transmisión	voz	Llamadas de funciones	Generación de imágenes	Multimodal (visión)	Incrustar la incrustación
opadai	apoyo	apoyo	apoyo	apoyo	apoyo	apoyo	apoyo
Baidu (Wenxin)	apoyo	apoyo	-	apoyo	apoyo	-	apoyo
Puntuación inteligente (GLM-4)	apoyo	apoyo	-	apoyo	apoyo	apoyo	apoyo
kimi	apoyo	apoyo	-	-	-	-	-
chatglm2	apoyo	apoyo	-	-	-	-	-
...	-	-	-	-	-	-	-

Hoja de ruta funcional

La carga de la base de conocimiento local se ha completado y se han completado las funciones de chat de transmisión de cinco modelos LLMS: OpenAI, ChatGlm2, Baidu, Zhipu GLM-4 y Kimi. En el futuro, se conectarán más modelos de idiomas grandes para satisfacer más escenarios de demanda.

• Base de conocimiento de langchain
  • Acceso a documentos no estructurados (ha admitido formatos de archivo como MD, PDF, DOCX, TXT, CSV, etc.)
  • Acceso al motor de búsqueda
  • Acceso a datos estructurados (como Excel, SQL, etc.)
  • Acceso a la base de datos gráfica de conocimiento/gráfico
• Funciones del sistema
  • usuario
    • Inicio de sesión de usuario
    • Registro de usuarios
    • Inicio de sesión de terceros
  • Implementar el chat de transmisión basado en SSE
  • Entrada y salida de voz
  • Gestión de sesiones
  • Gestión de la base de conocimiento
  • Soporte de preguntas y respuestas de los motores de búsqueda
• Informe funciones relacionadas
  • resumen
  • traducir
  • Palabras clave
  • Clasificación de texto
  • Seguridad de contenido
  • Análisis de preferencias
  • Revise la libra
  • Imagen de Wensheng
• Interfaz
  • Adaptación móvil
  • Optimización de la salida de transmisión de código y otro contenido

Comienzo rápido

1. Ejecutar scripts de base de datos

init - script / db . sql

2. Instale la base de datos vectorial local

-- 安装启动本地向量数据库
docker-compose up -d 

3. Modelo de lenguaje grande

 // 配置openai api token
openai . token = sk - xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx 

 # 或者启动本地chatglm2-6B模型
python .o penai_api . py 

Para más configuraciones, verifique

Wiki

Cómo construir documentos de base de conocimiento de alta calidad

Visualización de funciones

Demostración de chat

Base de conocimiento local

## Grupo de intercambio de proyectos

? Si el código QR del grupo ha expirado, escanee mi código QR personal para unirse al grupo