Trove of Knowledge (TOK) adalah aplikasi yang sepenuhnya lokal , berkualitas tinggi , dan dapat diperluas pengambilan-pengambilan (RAG) yang memanfaatkan model dan indeks AI untuk meminta dokumen dan menghasilkan respons yang akurat secara kontekstual. Dengan Tok, Anda dapat mengunggah dokumen dan menerima jawaban yang lebih banyak berdasarkan informasi yang disesuaikan dengan pertanyaan Anda. Selain itu, aplikasi secara otomatis menyimpan obrolan Anda, memungkinkan Anda untuk mengunjungi kembali dan melanjutkan percakapan kapan saja.
Daftar isi
? Fitur
Prasyarat
Memulai
Penggunaan
? Demo video
? Tur Visual
Hasil
Fitur
? ️ Sepenuhnya lokal, aman, dan berfokus pada privasi: Tok memastikan bahwa semua operasi dilakukan secara lokal, menjaga data Anda tetap pribadi dan aman.
Pengunggahan dokumen serbaguna: Unggah berbagai jenis dokumen teks dan folder untuk membuat indeks untuk tanggapan AI yang lebih terinformasi.
? ️ Penugasan Metadata Opsional: Meningkatkan unggahan dokumen dengan metadata khusus, membuat data Anda lebih terorganisir dan dapat diakses.
Pengaturan UI Komprehensif: Mudah mengakses dan memodifikasi pengaturan penting seperti opsi chunking, suhu, ukuran jendela konteks, dan mode obrolan melalui antarmuka pengguna.
✍️ Prompt khusus: Tambah dan gunakan permintaan yang dipersonalisasi untuk model bahasa besar (LLM) dan mesin obrolan, menyesuaikan tanggapan terhadap kebutuhan Anda.
Obrolan gigih dengan judul: Obrolan disimpan dengan judul yang dapat disesuaikan, memungkinkan Anda untuk mengunjungi kembali dan melanjutkannya nanti.
Riwayat obrolan yang persisten: Akses dan tinjau percakapan masa lalu kapan saja.
? Pemilihan model dari Ollama: Pilih dan Tarik Model AI langsung dari Ollama untuk tugas dan preferensi tertentu.
⏳ Respons streaming dengan cuplikan pintar: Nikmati respons real-time dengan pemformatan output pintar, terutama untuk cuplikan kode.
? Extensible: Mudah memperluas fungsionalitas Tok dengan fitur atau integrasi tambahan.
Prasyarat
Untuk menjalankan Tok, Anda harus menginstal dua dependensi:
OLLAMA: Memfasilitasi pengunduhan model, porsi, dan pemuatan perangkat cerdas yang mudah. ( diperlukan )
NEO4J Desktop: Digunakan untuk toko vektor dan grafik tingkat atas. ( Pasang jika berjalan tanpa Docker / dengan EXE dalam rilis atau untuk tujuan penelitian )
Menyiapkan Neo4j (jika desktop neo4j diinstal)
Unduh dan instal desktop neo4j .
Tambahkan jalur neo4j bin ke variabel lingkungan jalur sistem Anda. Ini memungkinkan NEO4J diakses oleh Tok.
Contoh jalur bin untuk windows: pathtouser.Neo4jDesktoprelate-datadbmssyour-current-dbmsbin
(Untuk Windows) Aktifkan Neo4j CLI dengan menjalankan perintah berikut di Command Prompt atau PowerShell untuk Windows:
neo4j windows-service install
Silakan melalui tautan ini untuk melakukan langkah -langkah di atas untuk Arch lainnya (dan untuk referensi).
Memulai
Anda memiliki dua opsi utama untuk menjalankan Tok:
Opsi 1: Menjalankan Tok dengan Docker (Disarankan)
Pastikan Anda memiliki komposisi Docker dan Docker yang diinstal pada mesin Anda.
Klon Repositori:
git clone https://github.com/gurveervirk/ToK.git
Arahkan ke direktori yang berisi file docker-compose.yml :
cd ToK/docker
Sajikan Ollama di sistem lokal Anda. ( Aplikasi dapat menyajikannya secara otomatis )
ollama serve
Mulai aplikasi dengan Docker Compose:
docker-compose up -d
Opsi 2: Menjalankan Tok dapat dieksekusi (sudah usang) (tidak lagi dipertahankan)
Kunjungi halaman rilis dan unduh ToK.exe terbaru ke lokasi/direktori (aplikasi membuat file dan folder yang diperlukan untuk pekerjaan yang benar).
Ubah pengaturan dengan menjalankan aplikasi sekali dan mengklik ikon Pengaturan di sudut kanan atas:
Nama Pengguna: Ganti dengan nama pengguna database NEO4J Anda.
Kata Sandi: Ganti dengan kata sandi yang Anda atur dalam proyek NEO4J Anda.
URI: Ganti dengan URI Proyek NEO4J Anda.
CATATAN: Nama pengguna default dan URI adalah nilai default untuk neo4j dB. Anda juga dapat memodifikasinya di settings.json , dibuat oleh aplikasi.
Selesai! Anda sekarang siap untuk mulai menggunakan Tok.
Penggunaan
Setelah menyelesaikan pengaturan:
Luncurkan Tok .
Pilih untuk mengobrol langsung dengan dokumen bot atau unggah menggunakan tombol kanan atas untuk respons kueri yang ditingkatkan.
Nikmati pengalaman mulus berinteraksi dengan asisten pengetahuan bertenaga AI yang dikelola secara lokal yang menjaga data Anda tetap pribadi dan aman.
Catatan: Saat membuat obrolan baru segera setelah mendorong mesin LLM / obrolan, obrolan terbaru mungkin tidak terlihat di bilah samping bersama dengan obrolan yang tidak tersedia selama beberapa detik. Ini mungkin karena obrolan baru yang disimpan dengan judul yang dihasilkan LLM.
Demo video
Tonton video di bawah ini untuk melihat Tok beraksi:
Tur Visual
Jelajahi fitur utama dan antarmuka pengguna TOK melalui gambar di bawah ini:
Unggah modal
Modal Pengaturan
Minta modal
Hasil
Aplikasi ini telah berhasil diuji pada subset dari dataset triviaqa, dan hasilnya adalah sebagai berikut:
Silakan temukan kode untuk hasil di atas di tautan ini.