chatWeb

Obrolan

Dokter Bahasa Inggris 中文文档

ChatWeb dapat merangkak halaman web atau mengekstrak teks dari PDF, DOCX, file txt, dan menghasilkan ringkasan tertanam. Ini juga dapat menjawab pertanyaan Anda berdasarkan konten teks. Ini diimplementasikan menggunakan chatapi dan embeddingapi berdasarkan GPT3.5, serta database vektor.

Prinsip Dasar

Prinsip dasarnya mirip dengan proyek yang ada seperti ChatPDF dan AI layanan pelanggan otomatis.

Merangkak halaman web mengekstrak konten teks menggunakan API embedding gpt3.5 untuk menghasilkan vektor untuk setiap paragraf menghitung skor kesamaan antara masing-masing vektor paragraf dan seluruh vektor teks untuk menghasilkan ringkasan penyimpanan pemetaan vektor-teks dalam database vektor menghasilkan kata kunci dari input pengguna pengguna pengguna pengguna vektor-teks dalam database vektor menghasilkan kata kunci dari pengguna input pengguna pengguna pengguna pengguna pengguna vektor-teks dalam database vektor menghasilkan kata kunci dari pengguna input pengguna pengguna pengguna pengguna pengguna vektor-text dalam database vektor menghasilkan kata kunci dari pengguna input pengguna pengguna pengguna pengguna pengguna pengguna vektor-text dalam database vektor menghasilkan kata kunci dari pengguna input pengguna pengguna pengguna pengguna pengguna pengguna vektor-teks dalam database vektor menghasilkan kata kunci dari pengguna input pengguna pengguna pengguna pengguna pengguna pengguna vector Menghasilkan vektor dari kata kunci menggunakan database vektor untuk melakukan pencarian tetangga terdekat dan mengembalikan daftar penggunaan teks yang paling mirip API obrolan GPT3.5 untuk merancang prompt yang menjawab pertanyaan pengguna berdasarkan teks yang paling mirip dalam daftar. Idenya adalah untuk mengekstrak konten yang relevan dari sejumlah besar teks dan kemudian menjawab pertanyaan berdasarkan konten itu, yang dapat mencapai efek yang sama dengan menembus batas token.

Perbaikan dilakukan untuk menghasilkan vektor berdasarkan kata kunci daripada pertanyaan pengguna, yang meningkatkan keakuratan mencari teks yang relevan.

Memulai

Instalasi Manual:

• Instal Python3
• Unduh repositori ini dengan menjalankan git clone https://github.com/SkywalkerDarren/chatWeb.git
• Arahkan ke Direktori dengan Menjalankan cd chatWeb
• Salin config.example.json ke config.json
• Edit config.json dan atur open_ai_key ke kunci API openai Anda
• Instal dependensi dengan menjalankan pip3 install -r requirements.txt
• Mulai aplikasi dengan menjalankan python3 main.py

Buruh pelabuhan:

Jika lebih suka, Anda juga dapat menjalankan proyek ini menggunakan Docker:

• Bangun wadah menggunakan docker-compose build (hanya diperlukan sekali ketika Anda tidak berencana untuk mengandung repo ini)
• Salin config.example.json ke config.json dan atur semua hal yang diperlukan. Contoh konfigurasi sudah baik untuk berjalan dengan Docker, tidak perlu mengubah apa pun di sana, jika Anda tidak memiliki open_ai_key dalam variabel env Anda, Anda dapat mengaturnya di sini juga, atau lebih baru jika Anda menjalankan aplikasi ini.
• Jalankan wadah: `Docker-Compose Up"
• Buka aplikasi di browser: http://localhost:7860

Setel bahasa

• Edit config.json , atur language ke English atau bahasa lainnya

Pemilihan mode

• Edit config.json dan atur mode ke console , api , atau webui untuk memilih mode startup.
• Dalam mode console , ketik /help untuk melihat perintah.
• Dalam mode api , layanan API dapat disediakan untuk dunia luar. api_port DAN api_host dapat diatur dalam config.json .
• Dalam mode webui , layanan antarmuka pengguna web dapat disediakan. webui_port dapat diatur di config.json , default ke http://127.0.0.1:7860 .

Mode aliran

• Edit config.json dan atur use_stream ke true .

Mengatur suhu

• Edit config.json dan atur temperature ke nilai antara 0 dan 1.
• Semakin kecil nilainya, semakin konservatif dan stabil responsnya. Semakin besar nilainya, semakin berani responsnya, mungkin menghasilkan "halusinasi."

Pengaturan Proxy Openai

• Edit config.json dan tambahkan open_ai_proxy untuk alamat proxy Anda, misalnya:

 "open_ai_proxy": {
  "http": "socks5://127.0.0.1:1081",
  "https": "socks5://127.0.0.1:1081"
}

Instal PostgreSQL (Opsional)

• Edit config.json dan atur use_postgres ke true .
• Instal PostgreSQL.
  • Alamat SQL default adalah postgresql://localhost:5432/mydb , atau Anda dapat mengaturnya di config.json .
• Pasang plugin PGVector.

Kompilasi dan pasang ekstensi (dukungan Postgres 11+).

git clone --branch v0.4.0 https://github.com/pgvector/pgvector.git
cd pgvector
make
make install # may need sudo

Kemudian muat di database Anda ingin menggunakannya

 CREATE EXTENSION vector;

• Pasang ketergantungan dengan PIP: pip3 install psycopg2

Contoh

Please enter the link to the article or the file path of the PDF/TXT/DOCX document: https://gutenberg.ca/ebooks/hemingwaye-oldmanandthesea/hemingwaye-oldmanandthesea-00-e.html
Please wait for 10 seconds until the webpage finishes loading.
The article has been retrieved, and the number of text fragments is: 663
...
=====================================
Query fragments used tokens: 7219, cost: $ 0.0028876
Query fragments used tokens: 7250, cost: $ 0.0029000000000000002
Query fragments used tokens: 7188, cost: $ 0.0028752
Query fragments used tokens: 7177, cost: $ 0.0028708
Query fragments used tokens: 2378, cost: $ 0.0009512000000000001
Embeddings have been created with 663 embeddings, using 31212 tokens, costing $ 0.0124848
The embeddings have been saved.
=====================================
Please enter your query (/help to view commands):

Todo

• Dukungan untuk file PDF/TXT/DOCX
• Dukungan untuk penyimpanan dalam memori tanpa database (FAISS)
• Dukungan untuk Stream
• Dukungan untuk API
• Dukungan untuk proxy
• Tambahkan Dukungan Colab
• Tambahkan dukungan bahasa
• Dukungan untuk suhu
• Dukungan untuk WebUI
• Fitur lain yang belum dipikirkan

Sejarah Bintang