langboot

Langboot

Use a idéia de Langchain para criar aplicativos de IA de trampolim.

Este projeto não envolve o processo de ajuste fino e de treinamento dos modelos de IA.

Pilha de tecnologia envolvida

Componentes	Versão
Java	17+
Springboot	3.1.0
Swagger-ui	knife4j-openapi3-jakarta-spring-boot-starter
Kit de ferramentas	Hutool-All
cache	Redis
JSON	fastjson2
mysql	MySQL Connector-J
estrutura orm	Mybatis-plus
Biblioteca OpenAI	Openai-Java
front-end	Freemarker, Bootstrap, JQuery, Record.js
Fluxo-bate-papo	Sse
Llms	Openai, Chatglm2, Wen Xin Yiyan, Zhipu AI, Kimi
Incorporação	Openai, text2vec-transformers, Wen Xinyiyan
loja de vetores	Tecelavial, milvus, pgvector

Princípio do trapo de Langchain

Matriz de capacidade de modelo

Modelo/habilidade	Geração de texto	Saída de streaming	voz	Chamadas de função	Geração de imagens	Multimodal (visão)	Incorporação de incorporação
Openai	apoiar	apoiar	apoiar	apoiar	apoiar	apoiar	apoiar
Baidu (Wenxin)	apoiar	apoiar	-	apoiar	apoiar	-	apoiar
Pontuação inteligente (GLM-4)	apoiar	apoiar	-	apoiar	apoiar	apoiar	apoiar
Kimi	apoiar	apoiar	-	-	-	-	-
Chatglm2	apoiar	apoiar	-	-	-	-	-
... ...	-	-	-	-	-	-	-

Roteiro funcional

O upload da base de conhecimento local foi concluído e as funções de streaming de bate-papo de cinco modelos LLMS: OpenAI, Chatglm2, Baidu, Zhipu GLM-4 e Kimi foram concluídos. No futuro, mais modelos de idiomas grandes serão conectados para atender a mais cenários de demanda.

• Base de conhecimento de Langchain
  • Acesso a documentos não estruturados (apoiou formatos de arquivo como MD, PDF, DOCX, TXT, CSV, etc.)
  • Acesso ao mecanismo de pesquisa
  • Acesso de dados estruturados (como Excel, SQL, etc.)
  • Conhecimento gráfico/banco de dados gráfico Acesso
• Funções do sistema
  • usuário
    • Login de usuário
    • Registro do usuário
    • Login de terceiros
  • Implementar bate -papo de fluxo com base no SSE
  • Entrada de voz e saída
  • Gerenciamento de sessão
  • Gerenciamento da base de conhecimento
  • Suportar perguntas e perguntas e respostas ao mecanismo de pesquisa
• Solicita funções relacionadas
  • resumo
  • traduzir
  • Palavras -chave
  • Classificação de texto
  • Segurança de conteúdo
  • Análise de preferência
  • Verifique a libra
  • Foto de Wensheng
• front-end
  • Adaptação móvel
  • Otimização da saída de streaming de código e outro conteúdo

Início rápido

1. Executar scripts de banco de dados

init - script / db . sql

2. Instale o banco de dados vetorial local

-- 安装启动本地向量数据库
docker-compose up -d 

3. Big Language Model

 // 配置openai api token
openai . token = sk - xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx 

 # 或者启动本地chatglm2-6B模型
python .o penai_api . py 

Para mais configurações, verifique

Wiki

Como construir documentos da base de conhecimento de alta qualidade

Exibição da função

Demoção de bate -papo

Base de conhecimento local

## Project Exchange Group

? Se o código QR do grupo expirou, digitalize meu código QR pessoal para ingressar no grupo