operator

Encoder-Run: Kubernetes-Operator zum automatischen Generieren von Vektoreinbettungen für den Quellcode

encoder-run ist ein Kubernetes-Operator, der den Lebenszyklus von Quellcode-Einbettungen automatisiert. Es verwaltet auch die zugrunde liegende Speicher- und Modellinfrastruktur. Dieses Projekt stellt sicher, dass die Vektoren mit den neuesten Änderungen der Quellcode -Repositorys auf dem Laufenden bleiben und Aufgaben der Suche, Ähnlichkeitsüberprüfungen, Lappen und Codeanalysen verbessern.

Merkmale

• Modellbereitstellung : Bereitstellung von Sentcetransformer-/Codierungsmodellen für die interne Verarbeitung interner Verarbeitung.
• Kontinuierliche Synchronisation : Monitore -Quellcode -Repositories und den Codierungsprozess für aktualisierten Code ausgelöst, um sicherzustellen, dass die Einbettungen aktuell bleiben.
• Skalierbar und effizient : optimiert für Leistung und Skalierbarkeit, die mühsame Repositorys und große Codebasen umgehen.
• Anpassbare Codierungsmodelle : Unterstützt eine Vielzahl von Codierungsmodellen, sodass Benutzer die beste Passform für ihre spezifischen Anforderungen auswählen können.

Encoder -Pipeline -Architektur

Erste Schritte

Notizen

• Stellen Sie sicher, dass Sie genügend Speicher haben, um das Kubernetes -Setup auszuführen. Überprüfen Sie die Docker -Desktop -Ressourcen auf Speicher und stellen Sie sicher, dass seine 24 GB+. Stellen Sie sicher, dass die Festplatte aufgrund der Art großer Modellgewichte und großer Docker -Bilder auch vernünftig eingestellt ist.
• Die Dimensionen für Einbettungen sind derzeit für 768 fest codiert. Stellen Sie also sicher, dass der von Ihnen bereitgestellte Transformator, den Sie bereitstellen.
• Die lokale Einbettungszeit ist viel länger als die Verwendung eines GPU -basierten Setups. Manchmal sind die ersten Anfrage/Antwortstapel der Modelle langsam, aber nachfolgende Anforderungen sind schneller und konsistenter. Fühlen Sie sich frei, dieses Setup auf einer Maschine mit GPU -Zugriff auszuführen, um die Inferenzzeit zu beschleunigen.

Voraussetzungen

Stellen Sie vor dem Einrichten encoder-run sicher, dass die folgenden Voraussetzungen erfüllt sind:

• Golang : Goland Version 1.21.*+ Ist erforderlich.
• Docker : Docker muss in Ihrem System installiert werden, da es erforderlich ist, um die Anwendungskomponenten und Abhängigkeiten zu Containern zu erhalten. Besuchen Sie die offizielle Site von Docker für Installationsanweisungen.
• Kubernetes -Sorte : SoN wird verwendet, um einen lokalen Kubernetes -Cluster zu erstellen. Wenn es noch nicht installiert ist, können Sie make kind-install ausführen, die nach seiner Anwesenheit nachgibt und installiert wird, wenn es fehlt.
• Knoten : Der Knoten wird nur verwendet, wenn Sie sich lokal entwickeln. Bitte installieren Sie v18.17.0.

Einsatz

Verwenden Sie nach der Erfüllung der Voraussetzungen den folgenden Befehl, um die Anwendung bereitzustellen. Dadurch werden alle Bilder aus der Quelle erstellt. Das erste Mal kann 10 Minuten+dauern.

 make deploy

oder um das Gebäude aus der Quelle zu überspringen (schneller, wenn es aus DockerHub zieht):

 make deploy-staging

In diesem Befehl werden die erforderlichen Kubernetes -Konfigurationen eingerichtet und alle Komponenten gestartet. Nach dem Einsatz wird es enthüllen:

• Konsole-UI auf localhost:32081
• Gateway auf localhost:32080

Ausführen des Frontend mit Scheindaten

Befolgen Sie die folgenden Schritte, um die Frontend -Schnittstelle mit Scheindaten auszuführen:

1. Navigieren Sie zum Frontend Console-UI-Verzeichnis:

    cd frontend/console-ui
   npm install && npm run generate
   cd ../mock
   npm install
   cd ../console-ui
   npm run local

In diesem Setup wird die Benutzeroberfläche auf localhost:3000 und das Mock -Gateway auf localhost:4000 aufdrehen und die volle Umgebung für Entwicklung oder Tests simuliert.

Roadmap

Hier finden Sie eine kurze Liste der geplanten Funktionen und Verbesserungen für encoder-run :

• Redis -Bereitstellungen
• Postgres externe dB
• Postgres -Bereitstellungen
• Elasticsearch -Bereitstellungen/extern
• Benutzerdefinierte Chunking -Strategien basierend auf AST usw.

Fühlen Sie sich frei, neue Funktionen beizutragen oder vorzuschlagen, indem Sie ein Problem eröffnen oder eine Pull -Anfrage in unserem Github -Repository einreichen.

Gemeinschaft und Feedback

Encoder-Run ist ein Open-Source-Projekt und wir fördern und begrüßen Beiträge. Wenn Sie einen Beitrag leisten möchten, überprüfen Sie unbedingt unsere Beitragsrichtlinien und unsere Verhaltenskodex.

Bei Problemen mit der Installation und der Einrichtung können Sie mit den GitHub-Problemen über Diskussionen über die Verwendung von Encoder-Run detailliert werden, und stellen Sie sicher, dass Sie so viele Details wie möglich einbeziehen.