Promptimizer

PromptImizer-Kerangka Optimasi Prompt AI yang Ditunjuk Otomatis

Proyek ini mengimplementasikan sistem otomatis untuk mengoptimalkan permintaan AI menggunakan algoritma genetika dan teknik pembelajaran mesin. Ini dirancang untuk berkembang dan meningkatkan prompt LLM apa pun. Contoh dalam repo ini difokuskan pada skrining stok yang digerakkan AI.

Baca lebih lanjut tentang itu di sini.

Peringatan/Penafian

Mengoptimalkan petunjuk menggunakan kerangka kerja ini bisa sangat mahal! Saya tidak menerima tanggung jawab atas biaya yang dikeluarkan. Jika biaya adalah pertimbangan, silakan gunakan LLM lokal seperti Ollama untuk optimasi.

Lihat Nexustrade

Untuk melihat hasil prompt yang dioptimalkan, periksa nexustrade.io. Nexustrade adalah platform perdagangan dan investasi otomatis bertenaga AI yang memungkinkan pengguna untuk membuat, menguji, mengoptimalkan, dan menggunakan strategi perdagangan algoritmik.

Dengan stock screener, Anda dapat mengajukan pertanyaan apa pun di dalam direktori GroundTruths, termasuk:

• Saham semikonduktor mana yang memiliki laba bersih tertinggi untuk tahun fiskal 2020?
• Apa nilai EBITDA terbaru untuk 10 saham farmasi teratas (berdasarkan kapitalisasi pasar)?
• Berapa arus kas bebas rata-rata dari 10 saham e-commerce teratas berdasarkan kapitalisasi pasar?

Pertanyaan apa pun tentang data teknis atau fundamental, skrining stok AI Nexustrade dapat menjawab. Cobalah hari ini secara gratis!

Fitur

• Optimalisasi AI berbasis algoritma genetika
• Manajemen populasi dengan operasi crossover dan mutasi
• Pelatihan dan validasi menggunakan set data terpisah
• Evaluasi Kinerja Prompt Otomatis
• Evolusi Multi-generasional dari dorongan
• Parameter yang dapat disesuaikan untuk ukuran populasi, generasi, dan banyak lagi

Prasyarat

Sebelum Anda menjalankan proyek ini, pastikan Anda memiliki prasyarat berikut yang diatur:

1. Node.js : Pastikan Anda menginstal Node.js. Anda dapat mengunduhnya dari nodejs.org.

2. Populasikan inputs.ts : Buat dan isi file inputs.ts dengan format berikut:

 const inputs = [
  {
    text : "<Question to ask the model>" ,
    foldername : "foldername_for_the_input_output" ,
  } ,
] ;

export default inputs ;

3. POPULASI additionalSystemPrompts.ts : Buat dan isi file additionalSystemPrompts.ts dengan format berikut:

 const additionalSystemPrompts = [
  "System Prompt 1" ,
  "System Prompt 2" ,
  "System Prompt 3" ,
  "System Prompt 4" ,
  "System Prompt 5" ,
] ;

export default additionalSystemPrompts ;

4. Mengatur Variabel Lingkungan : Buat file .env di direktori root proyek dan tambahkan variabel lingkungan berikut:

 ANTHROPIC_API_KEY=your_anthropic_api_key
OPENAI_API_KEY=your_openai_api_key
OLLAMA_SERVICE_URL=http://localhost:11434
GOOGLE_APPLICATION_CREDENTIALS_JSON=path_to_your_google_application_credentials_json
CLOUD_DB=your_cloud_db_connection_string
LOCAL_DB=your_local_db_connection_string
MODEL_NAME=your_model_name

Ganti your_anthropic_api_key , your_openai_api_key , path_to_your_google_application_credentials_json , your_cloud_db_connection_string , your_local_db_connection_string your_model_name dengan Anda, dan datin Anda, dan datin Anda, your_local_db_connection_string , dan datin Anda, dan datin Anda, dan datin Anda, dan Anda yang sebenarnya, dan datin Anda, dan datin Anda, dan datin your_model_name Anda, API KEYS YOUS, dan YOUS Your_MODEL_MODEL_NAME Your. Nama model. Anda dapat mengubah model menjadi model open-source dari Ollama atau yang dari antropik dengan mengatur variabel lingkungan MODEL_NAME .

Untuk DB lokal, Anda dapat mengisinya dengan yang berikut:

 LOCAL_DB="mongodb://127.0.0.1:27017/promptoptimizer"

Secara default, sistem akan menggunakan database lokal yang ditentukan dalam process.env.LOCAL_DB . Jika Anda ingin menggunakan database cloud, pastikan process.env.CLOUD_DB diisi dan memodifikasi kode untuk menggunakannya sesuai kebutuhan.

Instalasi

Node.js dependensi

Untuk menginstal dependensi node.js yang diperlukan, jalankan perintah berikut di direktori root proyek:

npm install

Naskah dan TS-simpul

Untuk menjalankan file TypeScript secara langsung, Anda harus menginstal ts-node . Anda dapat menginstalnya secara global menggunakan perintah berikut:

npm install -g ts-node

Atau, Anda dapat menambahkannya sebagai ketergantungan dev ke proyek Anda:

npm install --save-dev ts-node

Ketergantungan Python

Untuk menginstal dependensi Python yang diperlukan, pastikan Anda telah menginstal Python dan kemudian jalankan perintah berikut di direktori root proyek:

pip install -r requirements.txt

Ini akan menginstal paket Python berikut:

• matplotlib
• seaborn
• pandas

Instalasi MongoDB

Untuk menginstal MongoDB secara lokal, ikuti langkah -langkah ini:

1. Unduh MongoDB : Pergi ke pusat unduhan MongoDB dan unduh MongoDB Community Server untuk sistem operasi Anda.

2. Instal MongoDB :

• Windows : Jalankan penginstal .msi yang diunduh dan ikuti instruksi instalasi.
• MacOS : Gunakan Homebrew untuk menginstal MongoDB. Buka terminal dan jalankan:

brew tap mongodb/brew
brew install [email protected]

• Linux : Ikuti instruksi spesifik untuk distribusi Linux Anda di situs web MongoDB.

3. Mulai MongoDB :

• Windows : MongoDB harus dimulai secara otomatis setelah instalasi. Jika tidak, Anda dapat memulainya secara manual dengan menjalankan mongod di prompt perintah.
• MacOS : Mulai MongoDB Menggunakan Layanan Homebrew:

brew services start mongodb/brew/mongodb-community

• Linux : Mulai MongoDB dengan menjalankan:

sudo systemctl start mongod

4. Verifikasi Instalasi : Untuk memverifikasi bahwa MongoDB sedang berjalan, buka terminal atau prompt perintah dan jalankan:

mongo

Ini harus membuka shell MongoDB, menunjukkan bahwa MongoDB diinstal dan berjalan dengan benar.

Menghasilkan kebenaran tanah

Untuk mengarahkan model ke arah perilaku yang diinginkan, Anda perlu tahu persis bagaimana Anda ingin model merespons berbagai input. Untuk melakukan ini, Anda akan memperbarui input.ts file dengan nama file dan input yang Anda ingin model pahami. Kemudian, Anda akan menjalankan skrip populateGroundTruth.ts . Skrip ini memungkinkan Anda untuk membuat kebenaran dasar dengan cara semi-otomatis.

Menciptakan heuristik skor

Menggunakan beberapa metode (seperti model bahasa besar), Anda harus dapat mengukur seberapa dekat output Anda dengan output yang Anda inginkan. Anda dapat melakukan ini menggunakan "Evaluator Prompt" berbasis LLM dalam repo. "Evaluator cepat" mengambil output model dan output yang diharapkan dan mengembalikan skor.

Menyiapkan model alternatif

Untuk menggunakan ollama sebagai alternatif untuk openai, ikuti langkah -langkah ini:

1. Unduh Ollama : Pergi ke ollama.com/download dan unduh versi yang sesuai untuk sistem operasi Anda.

2. Unduh model : kunjungi ollama.com/library/llama3.1 untuk mengunduh model yang ingin Anda gunakan.

3. Atur variabel lingkungan : Pastikan untuk mengatur variabel lingkungan berikut di file .env Anda:

 OLLAMA_SERVICE_URL=http://localhost:11434

Jika Anda memiliki ANTHROPIC_API_KEY , Anda dapat menggunakan antropik untuk optimasi yang cepat.

Menjalankan skrip naskah

Untuk menjalankan skrip TypeScript, Anda dapat menggunakan ts-node . Pastikan Anda telah menginstal ts-node seperti yang dijelaskan di atas, dan kemudian jalankan perintah berikut:

ts-node main.ts

Atau, Anda dapat mengkompilasi kode TypeScript ke JavaScript dan kemudian menjalankannya menggunakan Node.js:

1. Kompilasi kode TypeScript:

tsc

2. Jalankan kode JavaScript yang dikompilasi:

node dist/main.js

Memvisualisasikan kinerja

Untuk memvisualisasikan kebugaran pelatihan dan validasi dari generasi ke generasi, Anda dapat menggunakan graph.py skrip python. Skrip ini menghasilkan grafik sehingga Anda dapat melihat bagaimana kinerja prompt Anda berubah dari waktu ke waktu. Untuk menjalankan skrip, gunakan perintah berikut:

python graph.py

Dengan mengikuti instruksi ini, Anda dapat mengoptimalkan prompt sewenang -wenang apa pun, mengukur kinerjanya, dan memvisualisasikan bagaimana hal itu meningkat dari waktu ke waktu.