ragapp

Der einfachste Weg, einen Agentenlappen in einem Unternehmen zu verwenden.

So einfach zu konfigurieren wie die benutzerdefinierten GPTs von OpenAI, aber in Ihrer eigenen Cloud -Infrastruktur mit Docker eingesetzt werden. Gebaut mit llamaindex.

Erste Schritte · Endpunkte · Bereitstellung · Kontakt

Fangen an

Starten Sie zum Ausführen einen Docker -Container mit unserem Bild:

docker run -p 8000:8000 ragapp/ragapp

Greifen Sie dann auf die Admin -Benutzeroberfläche unter http: // localhost: 8000/admin zu, um Ihre Ragapp zu konfigurieren.

Sie können gehostete KI -Modelle von Openai oder Gemini sowie lokale Modelle mit Ollama verwenden.

Hinweis : Um zu vermeiden, dass Fehler auftreten, empfehlen wir die Verwendung der neuesten Version von Docker und (falls erforderlich) Docker Compose.

Endpunkte

Der Docker -Container enthält die folgenden Endpunkte:

• Admin ui: http: // localhost: 8000/admin
• CHAT UI: http: // localhost: 8000
• API: http: // localhost: 8000/docs

Hinweis : Die Chat -Benutzeroberfläche und die API sind nur dann funktional, wenn der Ragapp konfiguriert ist.

Sicherheit

Authentifizierung

Nur der RagApp -Container wird für Designschicht nicht mit einer Authentifizierungsschicht geliefert. Dies ist die Aufgabe eines API -Gateways, der den Verkehr an Ragapp weiterleitet. Dieser Schritt hängt stark von Ihrem Cloud -Anbieter und den von Ihnen nutzenden Diensten ab. Für eine reine Docker -Kompose -Umgebung können Sie unseren RagApp mit der Verwaltung der Verwaltungs -UI -Bereitstellung betrachten.

Genehmigung

Spätere Versionen von RagApp unterstützen die Einschränkung der Zugriff auf der Grundlage von Zugangstoken, die von einem API -Gateway oder ähnlichem weitergeleitet werden.

Einsatz

Verwenden von Docker Compose

Sie können Ragapp problemlos mit einem dieser Docker Compose -Bereitstellungen für Ihre eigene Infrastruktur einsetzen:

1. Ragapp mit Ollama und Qdrant
2. Mehrere Ragapps mit einer Management -Benutzeroberfläche

Kubernetes

Es ist einfach, Ragapp in Ihrer eigenen Cloud -Infrastruktur einzusetzen. In Kürze werden benutzerdefinierte K8s -Bereitstellungsdeskriptoren stattfinden.

Entwicklung

Ragapp:

Wichtig : Teile des Quellcodes dieses Projekts werden dynamisch aus dem Create-Llama-Projekt abgerufen. Achten Sie vor, um Änderungen vorzunehmen, indem Sie den Quellcode aufrufen, indem Sie aufrufen. make build-frontends .

Wechseln Sie zum SRC/Ragapp -Verzeichnis und beginnen Sie mit diesen Befehlen:

 export ENVIRONMENT=dev
poetry install --no-root
make build-frontends
make dev

Um die admin -Benutzeroberfläche zu überprüfen, gehen Sie zu http: // localhost: 3000/admin.

Hinweis : Stellen Sie sicher, dass Sie Gedichte installiert haben.

Kontakt

Fragen, Feature -Anfragen oder einen Fehler gefunden? Eröffnen Sie ein Problem oder wenden Sie sich an Marcusschiesser.

Sterngeschichte