Promptimizer
1.0.0
Dieses Projekt implementiert ein automatisiertes System zur Optimierung von KI -Eingaben mithilfe genetischer Algorithmen und maschinelles Lerntechniken. Es wurde entwickelt, um jede LLM -Eingabeaufforderung zu entwickeln und zu verbessern. Das Beispiel in diesem Repo konzentriert sich auf KI-gesteuerte Aktien-Screening.
Lesen Sie hier mehr darüber.
Die Optimierung der Eingabeaufforderungen mit diesem Framework kann sehr teuer sein! Ich übernehme keine Haftung für die anfallenen Kosten. Wenn Kosten eine Überlegung sind, verwenden Sie bitte lokale LLMs wie Ollama zur Optimierung.
Um die Ergebnisse der optimierten Eingabeaufforderung anzuzeigen, lesen Sie NexArne.io. Nexustrade ist eine mit KI betriebene automatisierte Handels- und Investitionsplattform, mit der Benutzer algorithmische Handelsstrategien erstellen, testen, optimieren und bereitstellen können.
Mit dem Stock Screener können Sie eine der Fragen innerhalb des Verzeichnisses von GroundTruths stellen, einschließlich:
Jede Frage zu technischen oder grundlegenden Daten, der KI -Stock -Screener von Nexustrade kann beantworten. Probieren Sie es noch heute kostenlos aus!
Stellen Sie vor dem Ausführen dieses Projekts sicher, dass Sie die folgenden Voraussetzungen einrichten:
Node.js : Stellen Sie sicher, dass Sie Node.js installiert haben. Sie können es von nodejs.org herunterladen.
Populate inputs.ts : Erstellen und füllen Sie die Datei inputs.ts mit dem folgenden Format:
const inputs = [
{
text : "<Question to ask the model>" ,
foldername : "foldername_for_the_input_output" ,
} ,
] ;
export default inputs ;additionalSystemPrompts.ts : Erstellen und füllen Sie die Datei additionalSystemPrompts.ts mit dem folgenden Format: const additionalSystemPrompts = [
"System Prompt 1" ,
"System Prompt 2" ,
"System Prompt 3" ,
"System Prompt 4" ,
"System Prompt 5" ,
] ;
export default additionalSystemPrompts ;.env -Datei im Stammverzeichnis des Projekts und fügen Sie die folgenden Umgebungsvariablen hinzu: ANTHROPIC_API_KEY=your_anthropic_api_key
OPENAI_API_KEY=your_openai_api_key
OLLAMA_SERVICE_URL=http://localhost:11434
GOOGLE_APPLICATION_CREDENTIALS_JSON=path_to_your_google_application_credentials_json
CLOUD_DB=your_cloud_db_connection_string
LOCAL_DB=your_local_db_connection_string
MODEL_NAME=your_model_name
Replace your_anthropic_api_key , your_openai_api_key , path_to_your_google_application_credentials_json , your_cloud_db_connection_string , your_local_db_connection_string , and your_model_name with your actual API keys, the path to your Google application credentials JSON file, your database connection strings, and the model Name. Sie können das Modell in ein Open-Source-Modell von Ollama oder einem von Anthropic ändern, indem Sie die Umgebungsvariable MODEL_NAME einstellen.
Für die lokale DB können Sie sie mit Folgendem bevölkern:
LOCAL_DB="mongodb://127.0.0.1:27017/promptoptimizer"
Standardmäßig verwendet das System die lokale Datenbank, die in process.env.LOCAL_DB angegeben wurde. Wenn Sie eine Cloud -Datenbank verwenden möchten, stellen Sie sicher, dass process.env.CLOUD_DB besiedelt ist, und ändern Sie den Code, um ihn nach Bedarf zu verwenden.
Um die erforderlichen Node.js -Abhängigkeiten zu installieren, führen Sie den folgenden Befehl im Stammverzeichnis des Projekts aus:
npm install Um TypeScript-Dateien direkt auszuführen, müssen Sie ts-node installieren. Sie können es weltweit über den folgenden Befehl installieren:
npm install -g ts-nodeAlternativ können Sie es Ihrem Projekt als Dev -Abhängigkeit hinzufügen:
npm install --save-dev ts-nodeUm die erforderlichen Python -Abhängigkeiten zu installieren, stellen Sie sicher, dass Sie Python installiert haben und dann den folgenden Befehl im Stammverzeichnis des Projekts ausführen:
pip install -r requirements.txtDadurch werden die folgenden Python -Pakete installiert:
matplotlibseabornpandasUm MongoDB lokal zu installieren, befolgen Sie die folgenden Schritte:
Download MongoDB : Gehen Sie zum MongoDB -Download -Center und laden Sie den MongoDB Community Server für Ihr Betriebssystem herunter.
MongoDB installieren :
.msi -Installationsprogramm aus und befolgen Sie die Installationsanweisungen.brew tap mongodb/brew
brew install [email protected]mongod in der Eingabeaufforderung ausführen.brew services start mongodb/brew/mongodb-communitysudo systemctl start mongodmongoDies sollte die MongoDB -Hülle öffnen, was darauf hinweist, dass MongoDB installiert ist und korrekt ausgeführt wird.
Um das Modell in Richtung des gewünschten Verhaltens zu lenken, müssen Sie genau wissen, wie das Modell auf eine Vielzahl von Eingängen reagiert. Dazu aktualisieren Sie die input.ts mit Dateinamen und Eingaben, die das Modell verstehen soll. Anschließend werden Sie das Skript populateGroundTruth.ts ausführen. Mit diesem Skript können Sie halbautomatische Grundwahrheiten erstellen.
Mit einer Methode (z. B. einem großen Sprachmodell) müssen Sie in der Lage sein, zu quantifizieren, wie eng Ihre Ausgabe an Ihre gewünschte Ausgabe ist. Sie können dies mit dem LLM-basierten "formulierten Evaluator" innerhalb des Repo tun. Der "prompt Evaluator" nimmt die Ausgabe des Modells und die erwartete Ausgabe an und gibt eine Punktzahl zurück.
Befolgen Sie die folgenden Schritte, um Ollama als Alternative zu OpenAI zu verwenden:
Download Ollama : Gehen Sie zu ollama.com/download und laden Sie die entsprechende Version für Ihr Betriebssystem herunter.
Laden Sie das Modell herunter : Besuchen Sie ollama.com/library/llama3.1, um das Modell herunterzuladen, das Sie verwenden möchten.
Legen Sie die Umgebungsvariable fest : Stellen Sie sicher, dass die folgende Umgebungsvariable in Ihrer .env -Datei festgelegt wird:
OLLAMA_SERVICE_URL=http://localhost:11434
Wenn Sie über einen ANTHROPIC_API_KEY verfügen, können Sie alternativ Anthropic für die sofortige Optimierung verwenden.
Um das TypeScript-Skript auszuführen, können Sie ts-node verwenden. Stellen Sie sicher, dass Sie wie oben beschrieben ts-node installiert haben, und führen Sie den folgenden Befehl aus:
ts-node main.tsAlternativ können Sie den TypeScript -Code in JavaScript kompilieren und dann mit node.js ausführen:
tscnode dist/main.js Um die Trainings- und Validierungs -Fitness über Generationen zu visualisieren, können Sie den Python graph.py verwenden. Dieses Skript generiert Grafiken, sodass Sie sehen können, wie sich die Leistung Ihrer Eingabeaufforderung im Laufe der Zeit geändert hat. Verwenden Sie zum Ausführen des Skripts den folgenden Befehl:
python graph.pyWenn Sie diesen Anweisungen befolgen, können Sie jede willkürliche Eingabeaufforderung optimieren, ihre Leistung quantifizieren und sich im Laufe der Zeit vorstellen.
