ALP

ALP

Überblick

ALP ist ein Open-Source-KI-System mit wissensbasiertem Konversations-KI, das Reaktionen erzeugt, die in relevanten Informationen aus externen Quellen verwurzelt sind. ?

Mit ALP können Sie eine große Wissensbasis erstellen, die während der Interaktion mit einem Chatbot abgefragt werden kann. Ähnlichkeitsbasierte Kontextkonstruktionen ermöglichen eine bessere Relevanz der aus der Datenbank extrahierten Materialien. Der Chatbot verfügt über ein unbegrenztes Gesprächsgedächtnis und die Fähigkeit, Gespräche zu exportieren und Einbettungen in das JSON -Format zu haben.

ALP unterhält die Gesprächsgeschichte und Einbettung in einer lokalen SQLite -Datenbank? Euen. Infolgedessen sind nur einmal das Hochladen von Dokumenten und Einbettungsprozessen erforderlich, sodass Benutzer Konversationen nahtlos wieder aufnehmen können.

ALP soll über Localhost ausgeführt werden. Alles, was Sie brauchen, ist Python und wenige Befehle zur Einrichtung der Umgebung. Fühlen Sie sich frei, den Code zu erforschen und an Ihre Bedürfnisse anzupassen?

Inhaltsverzeichnis

• ALP
  • Inhaltsverzeichnis
  • Changelog
  • Einführung
  • Merkmale
  • Installation
  • Konfiguration
  • Verwendung
  • Demo
  • Todo

Changelog

• 20240815-Modellliste aktualisiert auf: gpt-4o' , gpt-4o-mini
• 20231226- gpt-4-1106-preview als Standard-Generativmodell hinzugefügt. Der Benutzer kann es in ./lib/params.py in prod_model ändern. Sammelnerstellung Seitenzählungsfix.
• 20230911 - Definieren Sie das Verhalten des benutzerdefinierten Agenten in ./static/data/simulacra.json und wählen Sie sie aus einem Dropdown -Menü in Sitzungsmanager aus.
• 20230406 - Bug -fix, das das Programm zur Initialisierung der Datenbank unter/static/data/dbs/; Anforderungen.txt Fix
• 20230705 - Neues Datenmodell, Sbert -basierte Einbettungen
• 20230411 - Schnittstellen -Upgrade, UX -Verbesserungen, Fehler
• 20230405 - Programmspeicher Konversstion History

Einführung

ALP verbessert die Genauigkeit der Antworten von GPT-basierten Modellen im Vergleich zu gegebenen PDF-Dokumenten unter Verwendung einer Abruf-Augmentationsmethode. Dieser Ansatz stellt sicher, dass der relevanteste Kontext immer an das Modell übergeben wird. Die Absicht hinter ALP ist die Erforschung der überwältigenden Wissensbasis von Forschungsarbeiten, Büchern und Notizen und erleichtert den Zugriff und die Verdauung von Inhalten.

Derzeit verwendet ALP folgende Modelle:

1. Texteinbettung: multi-qa-MiniLM-L6-cos-v1
2. Generation: gpt-4o' , gpt-4o-mini

Merkmale

• Conversational Research Assistant : Interagieren Sie mit und erhalten Sie Informationen aus Sammlungen von PDF -Dateien.
• Unbegrenzter Konversationsgedächtnis : Halten Sie Informationen aus früheren Konversationen für kontextbezogene Antworten.
• Kehren Sie zu früheren Gesprächen zurück : Nehmen Sie Ihr Gespräch genau dort, wo Sie gegangen sind.
• Flexible Datenmodell : Ermöglicht eine Konversation mit mehr als einem Dokument in einer Sitzung.
• Verwendet Open Source-Modelle : Satztransformer ermöglichen eine kostlose und schnelle Texteinbettung.
• Unterstützung für lange Dokumente : Bücher und andere langwierige PDFs hochladen.
• Abrufvergrößerung : Nutzen Sie die Abruf -Augmentationstechniken für eine verbesserte Genauigkeit. Lesen Sie hier mehr.
• Definieren Sie Ihr eigenes Agentenverhalten : Setzen Sie die Systemnachricht, in der Ihre Agenten in ./static/data/simulacra.json definiert werden. Sie können dann einfach das HTML-Formular anpassen, um Namen aus einem Dropdown-Menü auszuwählen.
• Lokale Bereitstellung : ALP lokal auf Ihrem Computer.
• JSON -Export : Exportkonversation als JSON -Datei.
• Open Source : Der Code gehört Ihnen, um zu lesen, zu testen und zu brechen und aufzubauen.

Installation

Befolgen Sie die folgenden Schritte, um ALP auf Ihrer lokalen Maschine einzurichten:

1. Python installieren:

Stellen Sie sicher, dass Sie Python auf Ihrem Computer installiert haben. Ich empfehle Anaconda für ein einfaches Setup.

Wichtig: ALP läuft auf Python 3.10

2. Gabel und klonen Sie das Repository:

Nach dem Gabel des Repo klonen Sie es in einer Befehlszeile:

git clone https://github.com/yourusername/alp.git 
cd ALP

3. Erstellen Sie eine virtuelle Umgebung und aktivieren Sie sie:

Aus dem ALP/ Lokal -Verzeichnis rufen nach folgenden Befehlen auf

Für Linux -Benutzer in Bash:

python3 -m venv venv
source venv/bin/activate

Für Windows -Benutzer in CMD:

 python -m venv venv
venvScriptsactivate.bat

Dies sollte ALP/ Venv/ Verzeichnis erstellen und die virtuelle Umgebung aktivieren. Natürlich können Sie andere Programme verwenden, um VirtualenVs zu verarbeiten.

4. Installieren Sie die erforderlichen Abhängigkeiten in die virtuelle Umgebung:

pip install -r requirements.txt

Konfiguration

Standardmäßig läuft ALP in localhost . Es erfordert den API -Schlüssel, um über die Open AI -API mit dem GPT -Modell eine Verbindung herzustellen. Erstellen Sie im Alp/ Verzeichnis einen api_key.txt und fügen Sie dort Ihre API -Schlüssel ein. Stellen Sie sicher, dass api_key.txt Ihrer .gitignore -Datei hinzugefügt wird, damit sie nicht an GitHub ausgelöst wird. Sie können Ihre offene AI -API -Schlüssel hier erhalten https://platform.openai.com

Verwendung

5. Führen Sie die ALP -Anwendung aus:

python alp.py

6. Zugriff auf die Anwendung:

Die App sollte in Ihrem Standard -Webbrowser geöffnet werden. Wenn dies nicht der Fall ist, navigieren Sie zu http: // localhost: 5000. Die zunächst Verwendung beinhaltet die Erstellung von App.db -Datei unter ALP/STATIC/DATA/DBS/. Dies ist Ihre SQLite -Datenbankdatei, die den Gesprächsverlauf und die Einbettung enthält. Außerdem wird das Skript 'Multi-QA-Minilm-L6-Cos-V1' (80 MB) von umarmen Gesichtsrepositories auf Ihren PC heruntergeladen. Es wird automatisch beim ersten Start geschehen.

7. Verwenden Sie ALP:

Die ALP -App -Schnittstelle besteht aus einigen Abschnitten:

• Mit HUB können Sie eine neue Sammlung unter "Sammlungen" erstellen oder unter "Sitzungen" eine Konversationssession erstellen/fortsetzen.
• Sammlungsmanager: Erstellen Sie eine neue Sammlung, indem Sie ihren Namen angeben und eine PDF -Datei hochladen.
• Sitzungsmanager:
  • Setzen Sie die vorhandene Sitzung fort, indem Sie es aus Dropdown und "Start" auswählen.
  • Erstellen Sie dort auch eine neue Sitzung, indem Sie ihren Namen definieren und Sammlungen auswählen, die mit der Sitzung verknüpft sind.
  • Wählen Sie die vordefinierte Agentenrolle für die Konversation. Arbeitet auch für historische Chats.
• Sitzungsfenster: Sprechen Sie mit dem GPT -Modell über Sammlungen, die mit der Sitzung verknüpft sind. Jedes Mal, wenn eine Ähnlichkeitsbewertung zwischen den Einbettungen des Benutzers und den Sammlungen berechnet wird, wird in der Programmkonsole eine Liste der meisten ähnlichen Datenquellen gedruckt. Diese Quellen werden als Kontext mit der Frage des Benutzers an das GPT -Modell übergeben.

Screenshots

Todo

• Ermöglichen Sie den Benutzer, Gespräche in anderen Sitzungen fortzusetzen.
• Speichern Sie den Chat -Verlauf in der separaten Tabelle
• Laden Sie das Dokument in die Kontexttabelle hoch
• Erlauben Sie dem Benutzer, den Kontext für die Konversation auszuwählen oder die vorherige fortzusetzen
• Implementieren Sie alternative Einbettungsmodelle (Satztransformer)
• Ermöglichen Sie dem Benutzer, mehr als ein Dokument hochzuladen
• Dekupenkonversationsdaten aus Sammlungsdaten
• Implementieren von Satztransformen für Texteinbetten
• Anzeigen von Quellen, die vom Agenten für die Antwort verwendet werden
• Stellen Sie verschiedene Agenten in den Chatbot vor
• Der Benutzer kann unerwünschte Konvertationen aus der Datenbank löschen
• Globales Einstellungsmenü (derzeit in params.py)
• Der Benutzer kann Text von anderen Quellen als PDF hochladen
• GUI -Design verbessern
• Fügen Sie Whisper für Audio-Text hinzu