langboot

langboot

Langchainのアイデアを使用して、Springboot AIアプリケーションを構築します。

このプロジェクトには、AIモデルの微調整とトレーニングプロセスは、関連する機能を実装するための技術的な基盤としてのみ使用します。

関与する技術スタック

コンポーネント	バージョン
Java	17+
スプリングブート	3.1.0
swagger-ui	knife4j-openapi3-jakarta-spring-boot-starter
ツールキット	ハトールオール
キャッシュ	Redis
JSON	fastjson2
mysql	mysql-connector-j
ORMフレームワーク	mybatis-plus
Openaiライブラリ	Openai-java
フロントエンド	Freemarker、Bootstrap、JQuery、Record.js
ストリームチャット	SSE
LLMS	Openai、chatglm2、wen xin yiyan、zhipu ai、kimi
埋め込み	Openai、text2vec-transformers、wen xinyiyan
ベクトルストア	Weaviate、Milvus、pgvector

Langchain Ragの原則

モデル機能マトリックス

モデル/能力	テキスト生成	ストリーミング出力	声	関数呼び出し	画像生成	マルチモーダル（ビジョン）	埋め込み埋め込み
Openai	サポート	サポート	サポート	サポート	サポート	サポート	サポート
Baidu（wenxin）	サポート	サポート	-	サポート	サポート	-	サポート
スマートスコア（GLM-4）	サポート	サポート	-	サポート	サポート	サポート	サポート
キミ	サポート	サポート	-	-	-	-	-
chatglm2	サポート	サポート	-	-	-	-	-
... ...	-	-	-	-	-	-	-

機能ロードマップ

ローカルナレッジベースのアップロードが完了し、5つのLLMSモデルのストリーミングチャット機能：Openai、ChatGlm2、Baidu、Zhipu GLM-4、およびKimiが完了しました。将来的には、より多くの需要シナリオを満たすために、より大きな言語モデルが接続されます。

• ラングチェーンナレッジベース
  • 非構造化ドキュメントへのアクセス（MD、PDF、DOCX、TXT、CSVなどのファイル形式をサポートしています）
  • 検索エンジンアクセス
  • 構造化されたデータアクセス（Excel、SQLなど）
  • ナレッジグラフ/グラフィックデータベースアクセス
• システム機能
  • ユーザー
    • ユーザーログイン
    • ユーザー登録
    • サードパーティのログイン
  • SSEに基づいてストリームチャットを実装します
  • 音声入力と出力
  • セッション管理
  • 知識ベース管理
  • 検索エンジンQ＆Aをサポートします
• 関連する関数をプロンプトします
  • まとめ
  • 翻訳する
  • キーワード
  • テキスト分類
  • コンテンツセキュリティ
  • 選好分析
  • ポンドを確認してください
  • ウェンシェンの写真
• フロントエンド
  • モバイル適応
  • コードおよびその他のコンテンツのストリーミング出力の最適化

クイックスタート

1。データベーススクリプトを実行します

init - script / db . sql

2.ローカルベクトルデータベースをインストールします

-- 安装启动本地向量数据库
docker-compose up -d 

3。大きな言語モデル

 // 配置openai api token
openai . token = sk - xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx 

 # 或者启动本地chatglm2-6B模型
python .o penai_api . py 

その他の構成については、確認してください

ウィキ

高品質の知識ベースドキュメントを作成する方法

関数ディスプレイ

チャットデモ

ローカルナレッジベース

##プロジェクト交換グループ

Langchain-SpringBoot Wechat Communication Groupも参加してください。グループQRコードの有効期限が切れた場合は、個人のQRコードをスキャンしてグループに参加してください