Contoh Ekspo-dan-Penelusuran Dasar
Contoh kode tentang cara mengunggah dan mencari database vektor qdrant
Jika Anda menemukan kode ini berguna, pertimbangkan untuk memeriksa proyek asisten AI utama saya: https://github.com/libraryofcelsus/aeterius_ai_assistant
Jika Anda ingin lebih banyak tutorial kode seperti ini, ikuti saya di GitHub dan YouTube: https://www.youtube.com/@libraryofcelsus
(Saluran belum diluncurkan, saya memiliki banyak skrip seperti ini, tetapi saya masih mengerjakan format produksi video. Berlangganan untuk peluncurannya!)
Tutorial kode mendalam dalam format dokumentasi yang tersedia di: https://www.libraryofcelsus.com/research/public/code-tutorials/
Instalasi jendela
- Jika menggunakan qdrant cloud salin kunci API dan URL mereka ke file .txt yang sesuai.
Qdrant Cloud Link: https://qdrant.to/cloud
Untuk menggunakan server Qdrant lokal, instal pertama Docker: https://www.docker.com/, lalu lihat: https://github.com/qdrant/qdrant/blob/master/quick_start.md
Setelah server Qdrant lokal berjalan, itu harus dideteksi secara otomatis oleh skrip. - Instal git
- Instal Python 3.10.6, pastikan Anda menambahkannya ke jalur
- Buka Program Bash Git
- Jalankan Git Clone: Git Clone https://github.com/libraryofcelsus/basic-qdrant-upload-and-search-example
- Buka baris perintah sebagai admin dan navigasikan ke folder instal proyek dengan CD
- Buat lingkungan virtual: python -m venv venv
- Aktifkan lingkungan virtual dengan :. venv Script Activate
- Instal Persyaratan dengan Pip Instal -R Persyaratan.txt
- Edit dan atur nama pengguna dan chatbot Anda di file .txt
- Edit dan atur prompt utama Anda dan salam di file .txt
- Untuk Oobabooga: Instal Oobabooga Web-UI. Ini dapat dilakukan dengan penginstal satu klik yang ditemukan di halaman GitHub mereka: https://github.com/oobabooga/text-generation-webui. Kemudian luncurkan Web-UI dan navigasikan ke tab Sesi, klik kedua kotak API dan kemudian klik Terapkan dan Restart. Sekarang navigasikan ke tab Model dan masukkan: "TheBloke/llama-2-7B-CHAT-GPTQ" atau "Thebloke/Llama-2-13b-CHAT-GPTQ". (Jika menggunakan CPU Gunakan versi GMML) Setelah model diunduh, ubah Model Loader ke Exllama dan atur parameter GPU-SPLIT ke .5GB di bawah batas GPU Anda. Selanjutnya atur max_seq_len ke 4096.
- Untuk OpenAi: Tambahkan tombol API OpenAI Anda ke KEY_OPENAI.TXT
- Jalankan chatbot dengan python script_name.py
*Catatan, Anda harus menjalankan. Venv Scripts Aktifkan setiap kali Anda keluar dari baris perintah untuk mengaktifkan kembali lingkungan virtual.
Penelitian AI saya didanai sendiri, pertimbangkan untuk mendukung saya jika Anda merasa berguna :)
Kontak
Perselisihan: Libraryofcelsus -> Gaya Nama Pengguna Lama: Celsus#0262
Mega Chat: https://mega.nz/c!pmnmeizq
Email: [email protected]
