primeqa

Das Hauptrepository für hochmoderne mehrsprachige Fragen zur Beantwortung von Forschung und Entwicklung.

Primeqa ist ein öffentliches Open-Source-Repository, mit dem Forscher und Entwickler hochmoderne Modelle für die Beantwortung von Frage (QA) ausbilden können. Durch die Verwendung von Primeqa kann ein Forscher die Experimente replizieren, die in einem in der neuesten NLP-Konferenz veröffentlichten Papier veröffentlicht wurden. Er genießt gleichzeitig die Fähigkeit, vorgeborene Modelle (aus einem Online-Repository) herunterzuladen und sie auf eigenen benutzerdefinierten Daten auszuführen. Primeqa ist auf dem Transformers Toolkit aufgebaut und verwendet Datensätze und Modelle, die direkt heruntergeladen werden können.

Die Modelle innerhalb von Primeqa unterstützen die Beantwortung von End-to-End-Fragen. Primeqa beantwortet Fragen über Fragen

• Abrufen von Informationen: Abrufen von Dokumenten und Passagen sowohl mit herkömmlichen (z. B. BM25) als auch neuronalen (z. B. Colbert) Modellen
• Mehrsprachiger Maschinen -Leseverständnis: Extrahieren und/ oder generieren Antworten angesichts des Quelldokuments oder der Passage.
• Mehrsprachige Fragengenerierung: Unterstützt die Erzeugung von Fragen zur effektiven Domänenanpassung über Tabellen und mehrsprachiger Text.
• Augmented Generation Abrufener Generierung: Generieren Sie Antworten mit den vorbereiteten Modellen GPT-3/CHATGPT, die auf abgerufenen Passagen konditioniert sind.

Einige Beispiele für Modelle (anwendbar für Benchmark -Datensätze) sind:

• Traditioneller IR mit BM25 Pyserini
• Neural IR mit Colbert, DPR (Zusammenarbeit mit Stanford NLP IR geleitet von Chris Potts & Matei Zaharia). Die Experimente replizieren, dass Dr. Decr (Li et al.
• Maschinen-Leseverständnis mit XLM-R: Um die Experimente zu replizieren, um an die Spitze der Tydi-Rangliste zu gelangen, ähnlich der Leistung des IBM Gaama-Systems. In Kürze kommen: Code, um die Leistung von Gaama auf natürliche Fragen zu replizieren.

? Rangliste

Primeqa steht an der Spitze mehrerer Besten

Xor-tydi

Tydiqa-Main

Ott-Qa

Hybridqa

✔️ Erste Schritte

Installation

Installation doc

 # cd to project root

# If you want to run on GPU make sure to install torch appropriately

# E.g. for torch 1.11 + CUDA 11.3:
pip install ' torch~=1.11.0 ' --extra-index-url https://download.pytorch.org/whl/cu113

# Install as editable (-e) or non-editable using pip, with extras (e.g. tests) as desired
# Example installation commands:

# Minimal install (non-editable)
pip install .

# GPU support
pip install .[gpu]

# Full install (editable)
pip install -e .[all]

Bitte beachten Sie, dass Abhängigkeiten (in Setup.py angegeben) festgehalten werden, um eine stabile Erfahrung zu bieten. Bei der Installation von Quelle können diese geändert werden, dies wird jedoch nicht offiziell unterstützt.

HINWEIS: In vielen Umgebungen können Faiss-Bibliotheken auf Konda-forge basierende Bibliotheken wesentlich besser abschneiden als die mit PIP installierten Standard. Verwenden Sie die folgenden Schritte, um FAISS-Bibliotheken von Conda-Forge zu installieren:

• Erstellen und aktivieren Sie eine Conda -Umgebung
• Installieren Sie FAISS -Bibliotheken mit einem Befehl

conda install -c conda-forge faiss=1.7.0 faiss-gpu=1.7.0

• Entfernen Sie in setup.py die FAISS-bezogenen Linien:

 "faiss-cpu~=1.7.2": ["install", "gpu"],
"faiss-gpu~=1.7.2": ["gpu"],

• Fahren Sie mit den oben beschriebenen pip install fort.

Java -Anforderungen

Java 11 ist für BM25 -Abruf erforderlich. Installieren Sie Java wie folgt:

conda install -c conda-forge openjdk=11

Blog -Beiträge

Es gibt mehrere Blog -Beiträge von Mitgliedern der Open -Source -Community, wie sie Primeqa für ihre Bedürfnisse verwendet haben. Lesen Sie einige von ihnen:

1. Primeqa und GPT 3
2. Enterprise -Suche mit Primeqa
3. Eine Suchmaschine für Trivia -Geeks

? Unit -Tests

Testen von Doc

Um die Unit -Tests auszuführen, müssen Sie zuerst Primeqa installieren. Stellen Sie sicher, dass Sie mit den [tests] oder [all] Extras von PIP installieren.

Von dort aus können Sie die Tests über PyTest ausführen, zum Beispiel:

pytest --cov PrimeQA --cov-config .coveragerc tests/

Weitere Informationen finden Sie unter:

• Unser tox.ini
• Die Pytest- und Tox -Dokumentation

? Erfahren Sie mehr

Abschnitt	Beschreibung
? Dokumentation	Vollständige API -Dokumentation und Tutorials
? Schnelle Tour: Einstiegspunkte für Primeqa	Verschiedene Einstiegspunkte für Primeqa: Informationsabruf, Leseverständnis, TabelleQA und Fragengenerierung
? Tutorials: Jupyter -Notizbücher	Notizbücher, um mit QA -Aufgaben zu beginnen
? GPT-3/CHATGPT-Leser-Notizbücher	Notizbücher, um mit den GPT-3/CHATGPT-Leserkomponenten zu beginnen
Beispiele: Anwendung von Primeqa auf verschiedene QA -Aufgaben anwenden	Beispielskripte für die Feinabstimmung Primeqa-Modelle auf einer Reihe von QA-Aufgaben
? Modellfreigabe und Hochladen	Laden Sie Ihre fein abgestimmten Modelle hoch und teilen Sie sie mit der Community
✅ Anfrage ziehen	Primeqa Pull -Anfrage
? Dokumentation generieren	Wie Dokumentation funktioniert
? Orchestrator Service REST Microservice	Proof-of-Concept-Code für Primeqa Orchestrator Microservice
Werkzeug -UI	Demo -UI

Zu den Mitarbeitern von Primeqa gehören

	Stanford NLP		Universität von Illinois
	Universität Stuttgart		Universität Notre Dame
	Ohio State University		Carnegie Mellon University
	Universität von Massachusetts		IBM -Forschung