Java&Spring AIを使用したLLMおよびAI注入アプリケーション
Spring AIを使用して、生成AIおよび大型言語モデル(LLMS)を搭載したJavaアプリケーションを構築する方法を示すサンプル。
前提条件
ユースケース
? Ollama経由でLLMを使用したチャットボットチャットボット。
ollamaおよびPGVectorを介してLLMを使用したドキュメント(RAG)による質問に答える質問。
? OllamaとPGVectorを介してLLMSを使用したセマンティック検索セマンティック検索。
構造化されたデータ抽出
Ollamaを介したLLMを使用した構造化されたデータ抽出。
?§オラマ経由のLLMを使用したテキスト分類テキスト分類。
?モデル
チャットモデル
さまざまなモデルプロバイダーを介したLLMとのチャットの完了:
- ミストラルAI
- オラマ
- Openai
- 複数のプロバイダー
?埋め込みモデル
さまざまなモデルプロバイダーを介したLLMを使用したベクトル変換(埋め込み):
- ミストラルAI
- オラマ
- Openai
- ONNXトランス
?画像モデル
異なるモデルプロバイダーを介したLLMを使用した画像生成:
?オーディオモデル
異なるモデルプロバイダーを介したLLMSによる音声生成:
異なるモデルプロバイダーを介したLLMによる音声転写:
?§モデレーションモデル
近日公開
?パターン
プロンプト、メッセージ、およびテンプレート
簡単なテキストを使用してプロンプト:
構造化されたメッセージと役割を使用してプロンプト:
テンプレートの使用プロンプト:
構造化された出力
LLM出力を構造化されたJSONおよびJAVAオブジェクトに変換します。
マルチモダリティ
LLMSのプロンプトにさまざまなメディアを含める:
関数呼び出し/ツール
異なるモデルプロバイダーを介してLLMSを使用して関数呼び出します。
?メモリ
近日公開
?データ摂取
ドキュメントリーダー
Ollama経由のLLMを使用してドキュメントを読み取りおよびベクトル化する:
ドキュメントトランス
Ollama経由のLLMによる文書変換:
- メタデータ
強化された検索のために、キーワードと要約メタデータを備えたドキュメントを濃縮します。 - スプリッター
LLMコンテキストウィンドウに合わせて、ドキュメントをチャンクに分けます。
?ベクトルストア
近日公開
検索拡張生成(RAG)
さまざまなぼろフローを使用したドキュメントでの質問(OllamaとPGVectorを使用):
➡️シーケンシャルラグ
condational条件付きラグ
?分岐布
観察可能性
? LLMの観測可能性
さまざまなモデルプロバイダーのLLM観測可能性:
?ベクトルストアの観測可能性
さまざまなベクターストアのベクトルストアの観測可能性:
?評価
近日公開
?エージェント
近日公開
参照と追加のリソース
?会議
- Christian TzolovとMark PollackによるスプリングAIの紹介(Spring I/O 2024)
- 春のaiは、クリスチャン・ツェロフ(goto amsterdam 2024)に必要なすべてです
- JavaとAIの協奏曲 - Thomas VitaleによるBuilding Production -Ready LLMアプリケーション(Spring I/O 2024)
?ビデオ
- ダンベガによるスプリングAIを使用してインテリジェントなアプリケーションを構築する(ジェットブレインライブストリーム)
- ダンベガによる春AIシリーズ
- クレイグウォールズによる春のAIシリーズ
- ジョシュロングによる春AIシリーズ
?デモ
- 航空会社のカスタマーサポート(Marcus Hellberg)
- 作曲家アシスタント(Thomas Vitale)
- ドキュメントアシスタント(マーカスヘルバーグ)
- フライト予約(クリスチャンツェロフ)
ワークショップ
- 春ai-ゼロからヒーロー(adib saikali、クリスチャン・ツェロフ)
- JavaとSpring AI(Thomas Vitale)を使用したAIアプリケーション