HelloPDF

HelloPDF - Obrolan PDF Bertenaga GPT -4

Jalankan dan gunakan chatbot bertenaga GPT-4 dalam hitungan menit!

Memanfaatkan Chromadb untuk VectorStore -nya, dengan Frontend Next.js.

Perkembangan

1. Instal Docker Desktop untuk platform Anda.

2. Klon repo atau unduh zip

 git clone [github https url]

3. Instal Paket

Pertama jalankan npm install yarn -g untuk menginstal benang secara global (jika Anda belum melakukannya).

Kemudian jalankan:

 yarn install

Setelah instalasi, Anda sekarang harus melihat folder node_modules .

4. Siapkan file .env Anda

• Salin .env.example ke .env file .env Anda akan terlihat seperti ini:

 OPENAI_API_KEY=
CHROMA_AUTH_BASIC=
CHROMA_AUTH_TOKEN=
CHROMA_URL=
COLLECTION_NAME=[optional]

• Kunjungi OpenAI untuk mengambil kunci API dan masukkan ke dalam file .env Anda.
• Pilih nama koleksi tempat Anda ingin menyimpan embeddings Anda di Chroma. Koleksi ini nantinya akan digunakan untuk pertanyaan dan pengambilan.
• Detail Chroma

5. Bergantung pada pengaturan Anda, Anda mungkin perlu memodifikasi app/api/files/utilities.ts untuk terhubung ke instance Chromadb yang tepat.

6. Di jendela terminal baru, jalankan chroma di wadah Docker:

 docker run -p 8000:8000 ghcr.io/chroma-core/chroma:latest

Jalankan aplikasi

Anda dapat menjalankan aplikasi dengan npm run dev untuk meluncurkan lingkungan dev lokal, dan kemudian mengunggah satu atau banyak file PDF untuk mengobrol. Setelah mengunggah, Anda dapat mengobrol dengan model.

Penyebaran Chromadb

Folder Terraform berisi skrip yang berasal dari chromadb/examples . Untuk menggunakan chromadb Anda ke GCP, lakukan sebagai berikut:

1. Instal GCP CLI, masuk melalui CLI, dan buat proyek baru. Perhatikan ID Proyek.

2. Pasang Terraform Cli.

3. Perbarui terraform/exportapply.sh dengan variabel ID proyek Anda.

4. (Opsional) Hasilkan keypair jika Anda ingin dapat masuk ke instance GCP.

5. Jalankan exportapply.sh di terminal Anda.

6. Jalankan terraform output instance_public_ip . Perhatikan IP output, dan perbarui .env Anda.

7. Jalankan terraform output chroma_auth_token . Perhatikan token auth Anda, dan perbarui .env Anda.

8. (Opsional) Butuh beberapa waktu untuk instance GCP untuk muncul, sehingga Anda dapat memeriksa status dengan

 % export instance_public_ip=$(terraform output instance_public_ip | sed 's/"//g')
% curl -v http://$instance_public_ip:8000/api/v1/heartbeat

9. API sekarang harus dapat terhubung dengan instance Chromadb yang dikerahkan GCP Anda untuk operasi toko vektor.

Pemecahan masalah

Secara umum, awasi bagian issues dan discussions repo ini untuk solusi.

Kesalahan umum

• Pastikan Anda menjalankan versi node terbaru. Jalankan node -v
• Cobalah PDF yang berbeda atau konversi PDF Anda menjadi SMS terlebih dahulu. Mungkin PDF Anda rusak, dipindai, atau mengharuskan OCR untuk dikonversi ke teks.
• Console.log variabel env dan pastikan mereka terpapar.
• Periksa apakah Anda telah membuat file .env yang berisi kunci API, lingkungan, dan nama indeks yang valid (dan berfungsi).
• Jika Anda mengubah modelName di OpenAI , pastikan Anda memiliki akses ke API untuk model yang sesuai.
• Pastikan Anda memiliki cukup kredit OpenAI dan kartu yang valid di akun Billings Anda.
• Periksa apakah Anda tidak memiliki beberapa kunci OpenAPI di lingkungan global Anda. Jika Anda melakukannya, file env lokal dari proyek akan ditimpa oleh variabel Sistem env .
• Cobalah untuk kode keras kunci API Anda ke dalam variabel process.env jika masih ada masalah.

Kredit

Awalnya bercabang dari https://github.com/mayooear/gpt4-pdf-ratbot-langchain/tree/feat/chroma