operator

Encoder-Run: Operator Kubernetes untuk secara otomatis menghasilkan embeddings vektor untuk kode sumber

encoder-run adalah operator Kubernetes yang dirancang untuk mengotomatiskan siklus hidup embeddings kode sumber. Ini juga mengelola infrastruktur penyimpanan dan model yang mendasarinya. Proyek ini memastikan vektor tetap terkini dengan perubahan terbaru dalam repositori kode sumber, meningkatkan pencarian, pemeriksaan kesamaan, RAG, dan tugas analisis kode.

Fitur

• Penyebaran Model : Menyebarkan Model SentenceTransformer/Encode untuk memproses embeddings secara internal.
• Sinkronisasi kontinu : Monitor repositori kode sumber dan memicu proses pengkodean untuk kode yang diperbarui, memastikan bahwa embeddings tetap saat ini.
• Scalable and Efficient : Dioptimalkan untuk kinerja dan skalabilitas, menangani beberapa repositori dan basis kode besar dengan mudah.
• Model Pengkodean yang dapat disesuaikan : Mendukung berbagai model pengkodean, memungkinkan pengguna untuk memilih yang paling cocok untuk persyaratan spesifik mereka.

Arsitektur Pipa Encoder

Memulai

Catatan

• Pastikan Anda memiliki banyak memori yang tersedia untuk menjalankan pengaturan Kubernetes. Periksa sumber daya desktop Docker untuk memori dan pastikan 24GB+. Pastikan disk diatur secara wajar juga karena sifat bobot model besar dan gambar Docker besar.
• Dimensi untuk Embeddings saat ini dikodekan dengan 768 jadi pastikan transformator yang Anda gunakan untuk menggunakan kecocokan.
• Waktu penyematan lokal jauh lebih lama daripada menggunakan pengaturan berbasis GPU. Kadang -kadang model permintaan/respons model pertama lambat tetapi permintaan selanjutnya akan lebih cepat dan lebih konsisten. Jangan ragu untuk menjalankan pengaturan ini pada mesin dengan akses GPU untuk mempercepat waktu inferensi.

Prasyarat

Sebelum menyiapkan encoder-run , pastikan prasyarat berikut terpenuhi:

• Golang : Goland Versi 1.21.*+ Diperlukan.
• Docker : Docker harus diinstal pada sistem Anda karena diperlukan untuk memuat komponen dan dependensi aplikasi. Kunjungi situs resmi Docker untuk instruksi pemasangan.
• Jenis Kubernetes : Kind digunakan untuk membuat cluster Kubernetes lokal. Jika belum diinstal, Anda dapat menjalankan make kind-install yang akan memeriksa kehadirannya dan menginstalnya jika hilang.
• Node : Node hanya digunakan jika Anda berkembang secara lokal. Harap instal v18.17.0.

Penyebaran

Setelah memenuhi prasyarat, gunakan perintah berikut untuk menggunakan aplikasi. Ini akan membangun semua gambar dari sumber. Pertama kali bisa memakan waktu 10 menit+.

 make deploy

atau untuk melewatkan bangunan dari sumber (lebih cepat saat menarik dari Dockerhub):

 make deploy-staging

Perintah ini akan mengatur konfigurasi Kubernetes yang diperlukan dan meluncurkan semua komponen. Setelah dikerahkan, itu akan mengekspos:

• Console-UI di localhost:32081
• Gateway on localhost:32080

Menjalankan frontend dengan data tiruan

Untuk menjalankan antarmuka frontend dengan data tiruan, ikuti langkah -langkah ini:

1. Arahkan ke Direktori Konsol-UI Frontend:

    cd frontend/console-ui
   npm install && npm run generate
   cd ../mock
   npm install
   cd ../console-ui
   npm run local

Pengaturan ini akan memutar UI di localhost:3000 dan gerbang tiruan di localhost:4000 , mensimulasikan lingkungan penuh untuk pengembangan atau pengujian.

Peta jalan

Berikut adalah daftar pendek fitur yang direncanakan dan peningkatan untuk encoder-run :

• Penempatan Redis
• DB Eksternal Postgres
• Penyebaran postgres
• Penyebaran Elasticsearch/Eksternal
• Strategi chunking khusus berdasarkan AST, dll

Jangan ragu untuk berkontribusi atau menyarankan fitur baru dengan membuka masalah atau mengirimkan permintaan tarik pada repositori GitHub kami.

Komunitas dan umpan balik

Encoder-Run adalah proyek open-source dan kami mendorong dan menyambut kontribusi. Jika Anda ingin berkontribusi, pastikan untuk meninjau pedoman kontribusi dan kode perilaku kami.

Untuk masalah dengan instalasi dan pengaturan, diskusi tentang cara terbaik untuk menggunakan encoder-run, silakan gunakan masalah github kami dan pastikan untuk memasukkan detail sebanyak mungkin.