News Vector Store

ニュースベクターストア

客観的：

大規模な言語モデルは、翻訳、要約、推論、分類、コンテキスト情報のキャプチャ、言語のセマンティクスと構文のキャプチャ、キャプチャの構文などの人間言語タスクを効果的に行うように設計されていますが、最近GPT-3.5の緊急モデル、Llama-2、Zephyerなどのオープンソースの指示モデルなど。特定のドメインのユースケースなどに関するいくつかの情報..もちろん、それらの多くは多くの質問に答えを提供できますが、質問について尋ね始めると、LLMが何も知らないか、それらを暗記できない、彼らは幻覚を起こし、間違った答えを提供します。

LLMSを効果的に使用し、最新情報を提供するこの問題の解決策は、Vectorデータベースとプロンプトエンジニアリング手法を使用して、検索された生成システムを構築することです。

• 知識またはコンテキストを入力に挿入します。
• LMに、その出力にコンテキストを組み込むように依頼します。

この手法は幻覚を減らし、質問に効果的に答えるために必要なコンテキスト（知識）をLLMSに提供します。

テクノロジーと前提条件：

• python（> = 3.10、<3.12）
• 詩
• NLP＆LLMSの基本知識
• git＆make command for windows
• Docker

プロジェクトのセットアップ：

• データディレクトリに2つのディレクトリ（DB、ニュース）を作成します

mkdir data/db
mkdir data/news

• ディレクトリ（STS）を作成し、クエリとデータを埋め込みにエンコードするHuggingfaceからエンコーダーモデルをクローンします。モデルを使用することをお勧めします

mkdir sts
cd sts
git lfs install
git clone https://huggingface.co/sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2

• 秘密の鍵を保持するための.envファイルを作成します。
• 依存症をインストールします

poetry install

• QDRANT DB APIのDocker画像を実行します

make qdrant

どのように機能しますか？

これは、このコマンドを実行するだけで最も簡単なステップです

make run date= ' 2023-11-09 ' 

実験：

• データベースを照会し、ニュース検索を検索します。
• Openai APIを使用し、質問LLM-News-Reporterの質問に基づいてニュースを抽出します。