langboot

Лангбут

Используйте идею Langchain для создания приложений Springboot AI.

Этот проект не включает в себя процесс точной настройки и обучения моделей ИИ.

Технологический стек вовлечен

Компоненты	Версия
Ява	17+
Springboot	3.1.0
Swagger-Ui	Нож4J-Openapi3-Jakarta-Spring-Boot-Starter
Инструментарий	Hutool-All
кеш	Редис
json	fastjson2
mysql	MySQL-Connector-J
ORM Framework	mybatis-plus
Библиотека Openai	Openai-Java
внешний интерфейс	Freemarker, Bootstrap, jQuery, record.js
поток-чат	SSE
LLMS	Openai, Chatglm2, Wen Xin Yiyan, Zhipu AI, Kimi
Внедрения	OpenAI, Text2VEC-трансформаторы, Вэнь Синьян
векторный магазин	Weaviate, Milvus, PGVector

Принцип Rangchain Rag

Матрица возможностей модели

Модель/способность	Генерация текста	Потоковой вывод	голос	Функциональные вызовы	Генерация изображений	Мультимодальный (видение)	Встраивать встраивание
Openai	поддерживать	поддерживать	поддерживать	поддерживать	поддерживать	поддерживать	поддерживать
Байду (Вэнксин)	поддерживать	поддерживать	-	поддерживать	поддерживать	-	поддерживать
Умный счет (GLM-4)	поддерживать	поддерживать	-	поддерживать	поддерживать	поддерживать	поддерживать
Кими	поддерживать	поддерживать	-	-	-	-	-
Чатглм2	поддерживать	поддерживать	-	-	-	-	-
... ...	-	-	-	-	-	-	-

Функциональная дорожная карта

Локальная загрузка базы знаний была завершена, а функции потокового чата из пяти моделей LLMS: OpenAI, Chatglm2, Baidu, Zhipu GLM-4 и KIMI были завершены. В будущем будет подключено более крупные языковые модели, чтобы удовлетворить больше сценариев спроса.

• Лангчейн База знаний
  • Доступ к неструктурированным документам (он поддерживает форматы файлов, такие как MD, PDF, DOCX, TXT, CSV и т. Д.)
  • Доступ к поисковой системе
  • Структурированный доступ к данным (например, Excel, SQL и т. Д.)
  • График знаний/доступ к графической базе данных
• Системные функции
  • пользователь
    • Пользовательский вход
    • Регистрация пользователя
    • Сторонний логин
  • Реализовать потоковой чат на основе SSE
  • Голосовой вход и вывод
  • Управление сеансом
  • Управление базой знаний
  • Поддержка поисковой системы Q & A
• Подсказывает связанные функции
  • краткое содержание
  • переводить
  • Ключевые слова
  • Текстовая классификация
  • Безопасность контента
  • Анализ предпочтений
  • Проверьте фунт
  • Веншэн Фотография
• внешний интерфейс
  • Мобильная адаптация
  • Оптимизация потокового вывода кода и другого контента

Быстрый старт

1. Выполнить сценарии базы данных

init - script / db . sql

2. Установите локальную базу данных векторной работы

-- 安装启动本地向量数据库
docker-compose up -d 

3. Модель большого языка

 // 配置openai api token
openai . token = sk - xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx 

 # 或者启动本地chatglm2-6B模型
python .o penai_api . py 

Для получения дополнительных конфигураций, пожалуйста, проверьте

Вики

Как построить высококачественные документы базы знаний

Функциональный дисплей

Чат демо

Местная база знаний

## Project Exchange Group

? Если QR -код группы истек, пожалуйста, сканируйте мой личный QR -код, чтобы присоединиться к группе