ppromptor
1.0.0
Prompt-Promptor (ou Shorten pour PPRomptor) est une bibliothèque Python conçue pour générer et améliorer automatiquement les invites pour les LLM. Il s'inspire d'agents autonomes comme Autogpt et se compose de trois agents: le proposant, l'évaluateur et l'analyseur. Ces agents travaillent avec des experts humains pour améliorer continuellement les invites générées.
? L'utilisation de LLMS pour se prolonger en donnant quelques échantillons.
? Guidance pour OSS LLMS (par exemple, lama) par des LLM plus puissants (par exemple, GPT4)
? Amélioration continue.
???? Collaboration avec des experts humains.
Gestion des expériences pour l'ingénierie rapide.
? Interface de l'interface graphique Web.
? ️? Open source.
Ce projet est actuellement dans son stade Early, et il est prévu qu'il y aura des changements de conception majeurs à l'avenir.
La fonction principale utilise une boucle infinie pour améliorer la génération d'invites. Si vous optez pour le chatppt d'Openai en tant que Target / Analysis LLMS, veillez à définir une limite d'utilisation.
Un diagramme de classe plus détaillé a pu être trouvé dans Doc
pip install ppromptor --upgrade
git clone https://github.com/pikho/ppromptor.git
cd ppromptor
streamlit run ui/app.py
pip install requirements_local_model.txt
cd <path_to_ppromptor>/ppromptor/llms
python wizardlm.py
cd <path_to_ppromptor>
streamlit run ui/app.py
Chargez les examples/antonyms.db (par défaut) à des fins de démonstration. Cela montre comment utiliser Chatgpt pour guider Wizardlm pour générer des antonymes pour les entrées données.
Configuration dans l'onglet Configuration, définissez Target LLM en tant que wizardlm si vous pouvez déduire ce modèle localement. Ou choisissez Target LLM et Analysis LLM en tant que chatgpt . Si le chatppt est utilisé, veuillez fournir la clé API OpenAI.
Chargez l'ensemble de données Le projet de démonstration a déjà chargé 5 enregistrements. Vous pouvez ajouter votre propre ensemble de données. (Facultatif)
Démarrez la charge de travail, appuyez sur le bouton Start pour activer le workflow.
Des invites générées par les candidats invites peuvent être trouvés dans l'onglet Prompt Candidates . Les utilisateurs peuvent modifier les invites générées en sélectionnant un seul candidat, puis en modifiant l'invite, puis Create Prompt . Cette nouvelle invite sera évaluée par l'agent d'évaluateur, puis continuera de s'améliorer par l'agent Analyzer. En sélectionnant 2 invites, nous pouvons comparer ces invites côte à côte.
Nous accueillons toutes sortes de contributions, y compris les nouvelles demandes de fonctionnalités, les corrections de bogues, la nouvelle implémentation des fonctionnalités, les exemples et les mises à jour de documentation. Si vous avez une demande spécifique, veuillez utiliser la section "Problèmes". Pour d'autres contributions, créez simplement une demande de traction (PR). Votre participation est très appréciée pour améliorer notre projet. Merci!
