colbertdb
1.0.0
ColbertDB ist eine Open-Source-Datenbank für ein effizientes Informationsabruf mit Colbert und Plaid. ColbertDB inspiriert von Ragatouille und stark aus Ragatouille bezogen, zielt ColbertDB darauf ab, den komplexen Prozess des Dokuments zu vereinfachen, einbettet und in die Indexierung für die RAG-Anwendungen (Abrufen-Augmented-Generation). Dieses Projekt ergab sich aus den signifikanten Verbesserungen, die beim Umschalten von einer herkömmlichen Vektordatenbank zu einem Colbert-basierten Index beobachtet wurden.
Die Motivation hinter Colbertdb ist dreifach:
Relevanteres Informationsabruf: Das Umschalten von einer Vektordatenbank zu einem Colbert-basierten Index ergab eine erhebliche Verbesserung des Informationsabrufs für ein Projekt. Dadurch wurde die potenziellen Vorteile der in Colbert basierenden Indexierung gegenüber traditionellen Methoden hervorgehoben.
Entwicklerfreundliche Schnittstelle: Das Einrichten von Dokumenten, Einbettung und Indexierung kann eine Herausforderung und fehleranfällige sein. ColbertDB bietet eine einfache Schnittstelle mit intelligenten Standardeinstellungen, sodass Entwickler leistungsstarke Funktionen für das Abrufen von Informationen in ihre Anwendungen integrieren können.
Reduzierte Abhängigkeit von externen Modellanbietern: Das Besitz des Einbettungsmodells bedeutet keine Abhängigkeit von externen Einbettungs-APIs und der Fähigkeit, das zugrunde liegende Modell für Ihre spezifische Domäne für eine noch bessere Relevant-Relevanz zu optimieren.
Das Docker -Bild verwendet ein CUDA -Basisbild und verwendet GPUs, falls verfügbar. Es wird empfohlen, ColbertDB mit GPUs auf Hardware auszuführen, da die Indexierungsdokumente unter Verwendung von CPUs unerschwinglich langsam sind. Sie benötigen Docker Running (https://www.docker.com/products/docker-desktop/), um lokal loszulegen.
docker build . -t colbertdb:latest
docker run colbertdb:latestoder
docker compose up --build
