ppromptor

Prompt Promptor: Ein autonomer Agent-Framework für die schnelle Engineering

Prompt Promptor (oder Shorten für PPromptor) ist eine Python-Bibliothek, mit der die Eingabeaufforderungen für LLMs automatisch generiert und verbessert werden. Es lässt sich von autonomen Wirkstoffen wie Autogpt inspirieren und besteht aus drei Agenten: Antragsteller, Bewerter und Analysator. Diese Agenten arbeiten mit menschlichen Experten zusammen, um die generierten Aufforderungen kontinuierlich zu verbessern.

Merkmale:

• ? Die Verwendung von LLMs, um sich selbst zu fordern, indem Sie nur wenige Proben geben.

• ? Leitlinien für OSS LLMs (z. B. Lama) von stärkeren LLMs (z. B. GPT4)

• ? Kontinuierliche Verbesserung.

• ?‍?‍?‍? Zusammenarbeit mit menschlichen Experten.

• Experiment -Management für schnelle Engineering.

• ? Web -GUI -Schnittstelle.

• ? ️‍? Open Source.

Warnung

• Dieses Projekt befindet sich derzeit in der Stufe und es wird erwartet, dass es in Zukunft große Designänderungen geben wird.

• Die Hauptfunktion verwendet eine unendliche Schleife, um die Erzeugung von Eingaben zu verbessern. Wenn Sie sich für OpenAIs ChatGPT als Ziel/Analyse -LLMs entscheiden, stellen Sie bitte sicher, dass Sie ein Nutzungslimit festlegen.

Konzept

Ein detaillierteres Klassendiagramm könnte in DOC gefunden werden

Installationen

Aus Github

1. Paket installieren

 pip install ppromptor --upgrade

2. Klon -Repository aus Github

 git clone https://github.com/pikho/ppromptor.git

3. Starten Sie die Web -Benutzeroberfläche

 cd ppromptor
streamlit run ui/app.py

Lokales Modell ausführen (Assistent)

1. Installieren Sie die erforderlichen Pakete

 pip install requirements_local_model.txt

2. Testen Sie, ob Assistenten korrekt ausgeführt werden können

 cd <path_to_ppromptor>/ppromptor/llms
python wizardlm.py

Verwendung

1. Starten Sie die Web -App

 cd <path_to_ppromptor>
streamlit run ui/app.py

2. Laden Sie die Demo -Projektlastbeispiele examples/antonyms.db (Standard) für Demo -Zwecke. Dies zeigt, wie Sie ChatGPT verwenden, um Assistenten zu führen, um Antonyme für bestimmte Eingaben zu generieren.

3. Konfiguration Auf der Registerkarte Konfiguration setzen Sie Target LLM als wizardlm , wenn Sie dieses Modell lokal schließen können. Oder wählen Sie sowohl Target LLM als auch Analysis LLM als chatgpt . Wenn ChatGPT verwendet wird, geben Sie bitte den OpenAI -API -Schlüssel an.

4. Laden Sie den Datensatz Das Demo -Projekt hat bereits 5 Datensätze geladen. Sie können Ihren eigenen Datensatz hinzufügen. (Optional)

5. Starten Sie die Workload Drücken Sie die Start , um den Workflow zu aktivieren.

6. Eingabekandidaten erstellten Eingabeaufforderungen finden Sie auf der Registerkarte Prompt Candidates . Benutzer können generierte Eingabeaufforderungen ändern, indem sie nur 1 Kandidat auswählen und dann die Eingabeaufforderung ändern und dann Create Prompt . Diese neue Eingabeaufforderung wird vom Evaluator -Agenten bewertet und verbessert sich dann durch den Analysator -Agenten. Durch die Auswahl von 2 Eingabeaufforderungen können wir diese Eingabeaufforderungen nebeneinander vergleichen.

Beitrag

Wir begrüßen alle Arten von Beiträgen, einschließlich neuer Feature -Anfragen, Fehlerbehebungen, neuer Feature -Implementierung, Beispiele und Dokumentationsaktualisierungen. Wenn Sie eine bestimmte Anfrage haben, verwenden Sie bitte den Abschnitt "Probleme". Erstellen Sie für andere Beiträge einfach eine Pull Request (PR). Ihre Teilnahme wird bei der Verbesserung unseres Projekts hoch geschätzt. Danke schön!