News Vector Store

News Vector Store

Objektiv:

Großsprachenmodelle sind so konzipiert, dass sie menschlichsprachige Aufgaben effektiv wie Übersetzung, Zusammenfassung, Argumentation, Klassifizierung, Erfassungskontextinformationen, Erfassungssemantik und Syntax von Sprachen erfassen, aber vor kurzem nach der Entstehung von GPT-3,5 und Open-Source-Models wie Llama-2-2-2-Anweisungen von GPT-3,5 und Open-Source-Modellen wie Llama-2, Zephyer. Code, geben Sie einige Informationen zu bestimmten Domain-Anwendungsfällen und vielem mehr an. Natürlich können viele von ihnen Antworten auf viele Fragen geben, aber sobald wir sie über Fragen stellen, wissen LLMs nichts darüber oder sie können sie nicht auswendig machen, sie halluzinieren und geben falsche Antworten.

Eine Lösung für dieses Problem, um LLMs effektiv zu verwenden und sie aktuelle Informationen bereitzustellen, besteht darin, Vektordatenbanken und Techniken zur Erstellung von Systemen zur Erstellung von Systemen zur Erstellung von Systemen zu erstellen, die:

• Fügen Sie Wissen oder Kontext in die Eingabe ein.
• Bitten Sie die LM, den Kontext in seine Ausgabe einzubeziehen.

Diese Technik verringert die Halluzination und liefert LLMs mit Kontext (Wissen), die sie effektiv beantworten müssen.

Technologien und Voraussetzungen:

• Python (> = 3,10, <3,12)
• Poesie
• Grundkenntnisse in NLP & LLMs
• Git & Machen Sie den Befehl für Windows
• Docker

Projekt -Setup:

• Erstellen Sie zwei Verzeichnisse (DB, Nachrichten) im Datenverzeichnis

mkdir data/db
mkdir data/news

• Erstellen Sie ein Verzeichnis (STS) und klonen Sie ein Encodermodell von Suggingface, das Ihre Abfragen und Daten zu Einbettungsdings codiert. Ich empfehle, das Modell zu verwenden

mkdir sts
cd sts
git lfs install
git clone https://huggingface.co/sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2

• Erstellen Sie .EnV -Datei, um Ihre geheimen Schlüssel zu halten.
• Installieren Sie Abhängigkeiten

poetry install

• Führen Sie das Docker -Bild von QDrant DB API aus

make qdrant

Wie funktioniert es?

Es ist der einfachste Schritt, den diesen Befehl einfach ausführen zu können

make run date= ' 2023-11-09 ' 

Experimente:

• Fragen Sie die Datenbank ab und suchen Sie nach Nachrichtensuche.
• Verwenden Sie OpenAI-API und extrahieren Sie Nachrichten basierend auf Fragen LLM-News-Reporter.