luthor

Luthor：法的ぼろきシステム

概要

Luthorは、弁護士が「データと話す」ことを可能にするために、法律事務所向けに設計された検索された世代（RAG）システムです。このシステムにより、法律専門家は、Pineconeに保存されているベクトルデータベースにドキュメント（メモなど）をアップロードし、その後、Riremlitで構築されたチャットボットのようなインターフェイスを使用してこの情報を照会することができます。

特徴

• ドキュメントアップロードと処理（.txt、.pdf、および.docxファイルをサポート）
• テキストの前処理とセグメンテーション
• OpenAIのAPIを使用したベクトル埋め込み生成
• Pineconeを使用した効率的なドキュメントストレージと検索
• 自然言語クエリインターフェイス
• コンテキスト認識回答生成

コンポーネント

1. Data Loader （ src/data_loader.py ）：さまざまなファイル形式の読み取りを処理します。
2. PREPROCERSOR （ src/preprocessor.py ）：埋め込みと保管のためにテキストを準備します。
3. メインアプリケーション（ app.py ）：ドキュメントのアップロードとクエリのためのストリームライトインターフェイス。
4. OpenAIユーティリティ：埋め込みおよび回答生成のAPIインタラクションを処理します。
5. Pineconeユーティリティ：ベクトルデータベース操作を管理します。

システムアーキテクチャ

Luthorは、コンテナ化されたアーキテクチャを使用してAWSに展開されます。

• Fargateを使用したAmazon ECS（Elastic Container Service） ：Luthorアプリケーションコンテナを実行します。
• Amazon ECR（Elastic Container Registry） ：LuthorアプリケーションのDocker画像を保存します。
• アプリケーションロードバランサー：複数のインスタンスに着信トラフィックを配布します。
• AWS Secrets Manager ：APIキーを安全に保存および管理します。

AWSインフラストラクチャ

• ECSクラスター：Luthorコンテナを実行しているFargateタスクを管理します。
• ECRリポジトリ：Luthor Docker画像をホストします。
• アプリケーションロードバランサー：ECSタスクにトラフィックをルーティングします。
• VPCおよびセキュリティグループ：ネットワークの分離とセキュリティを提供します。
• IAMの役割：ECSタスクおよびその他のAWSサービスの許可を管理します。

設定

前提条件

• AWSアカウント
• 適切な権限で構成されたAWS CLI
• Dockerはローカルにインストールされています

インストール

1. リポジトリをクローンします：

    git clone https://github.com/boemer00/luthor.git
   cd luthor
   

2. Docker画像を作成します：

    docker build -t luthor .
   

3. 画像をAmazon ECRに押します：

    aws ecr get-login-password --region [your-region] | docker login --username AWS --password-stdin [your-account-id].dkr.ecr.[your-region].amazonaws.com
   docker tag luthor:latest [your-account-id].dkr.ecr.[your-region].amazonaws.com/luthor:latest
   docker push [your-account-id].dkr.ecr.[your-region].amazonaws.com/luthor:latest
   

4. AWS Secrets Managerのセットアップ：Openai_Api_key、Pinecone_Api_key、Pinecone_environmentの秘密を作成します。

5. ECSタスクの定義を展開します：

    aws ecs register-task-definition --cli-input-json file://infrastructure/ecs-task-definition.json
   

6. ECSサービスを作成する：

    aws ecs create-service --cluster [your-cluster-name] --service-name luthor-service --task-definition luthor-app --desired-count 1 --launch-type FARGATE --network-configuration "awsvpcConfiguration={subnets=[subnet-xxxxxxxx,subnet-yyyyyyyy],securityGroups=[sg-xxxxxxxxxxxxxxxx]}" --load-balancers "targetGroupArn=arn:aws:elasticloadbalancing:[region]:[account-id]:targetgroup/[target-group-name]/[target-group-id],containerName=luthor-app,containerPort=8501"
   

使用法

アプリケーションロードバランサーのDNS名を介してLuthorアプリケーションにアクセスします。

1. ドキュメントアップロード：

   • インターフェイスのファイルアップローダーを使用して、法的ドキュメント（.txt、.pdf、または.docx）をアップロードします。
   • システムは、ドキュメントを処理し、埋め込みを生成し、それらをPineconeに保存します。

2. クエリ：

   • テキスト入力フィールドに法的クエリを入力します。
   • オプションで、サイドバーを使用して、日付範囲、ドキュメントタイプ、または法律領域ごとに検索を改良します。
   • システムは、関連するドキュメントチャンクを取得し、回答を生成し、ソース情報とともに表示します。

制限と将来の改善

• 現在、システムはドキュメントの重複排除を効果的に処理していません。
• 検索洗練オプション（日付範囲、ドキュメントタイプ、リーガルエリア）は、バックエンドに完全には実装されていません。
• エラー処理とロギングを改善することができ、デバッグやユーザーのフィードバックを改善することができます。
• このシステムは、法的文脈をよりよく理解するために、より高度なNLPテクニックの恩恵を受ける可能性があります。
• トラフィックパターンに基づいて、ECSサービスの自動スケーリングの実装を検討してください。
• 自動展開用のCI/CDパイプラインを実装します。

ライセンス

無断転載を禁じます。

このコードと関連するすべてのファイルは、Renato Boemerの独占的なプロパティです。このコードの一部は、いかなる形式でも、またはいかなる形式でも、Renato Boemerの事前の書面による許可なしに、コピー、複製、修正、適応、または検索システムに保存されることもありません。