langboot

Langboot

Gunakan ide Langchain untuk membangun aplikasi AI Springboot.

Proyek ini tidak melibatkan proses penyempurnaan dan pelatihan model AI.

Tumpukan teknologi terlibat

Komponen	Versi
Jawa	17+
Springboot	3.1.0
Swagger-ui	Knife4j-Openapi3-Jakarta-Spring-Boot-Starter
Toolkit	hutool-all
cache	Redis
json	fastjson2
mysql	mysql-connector-j
Kerangka kerja ORM	mybatis-plus
Perpustakaan Openai	Openai-Java
ujung depan	Freemarker, Bootstrap, JQuery, Record.js
Obrolan Stream	Sse
Llms	Openai, Chatglm2, Wen Xin Yiyan, Zhipu AI, Kimi
Embeddings	Openai, Text2Vec-Transformers, Wen Xinyiyan
toko vektor	Weaviate, Milvus, pgvector

Prinsip Rag Langchain

Matriks kemampuan model

Model/kemampuan	Pembuatan teks	Output streaming	suara	Panggilan Fungsi	Pembuatan gambar	Multimodal (Visi)	Embedding embed
Openai	mendukung	mendukung	mendukung	mendukung	mendukung	mendukung	mendukung
Baidu (Wenxin)	mendukung	mendukung	-	mendukung	mendukung	-	mendukung
Skor Cerdas (GLM-4)	mendukung	mendukung	-	mendukung	mendukung	mendukung	mendukung
Kimi	mendukung	mendukung	-	-	-	-	-
chatglm2	mendukung	mendukung	-	-	-	-	-
... ...	-	-	-	-	-	-	-

Peta jalan fungsional

Upload basis pengetahuan lokal telah selesai dan fungsi obrolan streaming dari lima model LLMS: OpenAI, ChatGLM2, Baidu, Zhipu GLM-4, dan Kimi telah selesai. Di masa depan, model bahasa yang lebih besar akan terhubung untuk memenuhi lebih banyak skenario permintaan.

• Basis Pengetahuan Langchain
  • Akses ke dokumen yang tidak terstruktur (memiliki format file yang didukung seperti MD, PDF, DOCX, TXT, CSV, dll.)
  • Akses mesin pencari
  • Akses data terstruktur (seperti Excel, SQL, dll.)
  • Akses Grafik Pengetahuan/Basis Data Grafik
• Fungsi sistem
  • pengguna
    • Login pengguna
    • Pendaftaran Pengguna
    • Login pihak ketiga
  • Menerapkan Obrolan Stream berdasarkan SSE
  • Input dan output suara
  • Manajemen Sesi
  • Manajemen Basis Pengetahuan
  • Mendukung mesin pencari Q&A
• Meminta fungsi terkait
  • ringkasan
  • menerjemahkan
  • Kata kunci
  • Klasifikasi Teks
  • Keamanan konten
  • Analisis preferensi
  • Periksa pound
  • Gambar wensheng
• ujung depan
  • Adaptasi seluler
  • Optimalisasi output streaming kode dan konten lainnya

Awal yang cepat

1. Jalankan skrip basis data

init - script / db . sql

2. Instal database vektor lokal

-- 安装启动本地向量数据库
docker-compose up -d 

3. Model Bahasa Besar

 // 配置openai api token
openai . token = sk - xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx 

 # 或者启动本地chatglm2-6B模型
python .o penai_api . py 

Untuk konfigurasi lebih lanjut, silakan periksa

Wiki

Cara membangun dokumen basis pengetahuan berkualitas tinggi

Tampilan fungsi

Demo obrolan

Basis pengetahuan lokal

## Project Exchange Group

? Jika kode QR grup telah kedaluwarsa, silakan pindai kode QR pribadi saya untuk bergabung dengan grup