langchain learning

langchain-learning

Catatan Studi Langchain. mengandalkan:

 openai == 0.27 . 8
langchian == 0.0 . 225

Beberapa alat yang mirip dengan Langchain:

• Danswer-Ai/Danswer: Ajukan pertanyaan dalam bahasa alami dan dapatkan jawaban yang didukung oleh sumber-sumber pribadi.

artikel

Catatan: Karena pembaruan Langchain atau Langchain-Catglm, beberapa kode sumber dan penjelasan mungkin berbeda.

Beberapa artikel secara langsung menempatkan tautan dan dikumpulkan dari internet.

---

• Koneksi Data Komponen Langchain
• Langchain Component-Model IO (Model IO)
• rantai komponen langchain
• Langchain Component-Agents
• Komponen Langchain memori
• Langchain Component-Callbacks
• Apa yang dilakukan di balik chatopenai di langchain.md
• langchain.load.serializable.py.md
• Beberapa skema.md di langchain
• Cara Menelepon Antarmuka Chatgpt di Langchain.md
• Prinsip di balik output terstruktur langchain, MD
• Bagaimana cara kerja memori di langchain.md
• Bagaimana memastikan bahwa output memenuhi harapan moral.md
• Prinsip LlmroUterchain di Langchain.md
• Prinsip embeddingrouterchain di langchain.md
• Integrasi Langchain gptcache.md
• Langchain Integrated Mivus Vector Database.md
• Prinsip StreamingstDoutCallbackHandler di langchain.md
• Beberapa konfigurasi konfigurasi di pydantic.md
• Serializable dan root_validator.md di Pydantic
• Beberapa metode ajaib yang biasa digunakan dalam python.md
• Jenis pengetikan python yang umum digunakan
• Penggunaan functools parsial di Python.md
• Penggunaan tanda tangan dari Python.md
• args dan kwargs.md dalam python
• Mengapa saya menyerah pada langchain? - zhihu (zhihu.com)

Saat ini, ada dua proyek Cina berdasarkan Langchain:

• https://github.com/yanqiangmiffy/chinese-langchain
• https://github.com/imclumsypanda/langchain-catglm

Kita bisa belajar banyak darinya.

Langchain-catglm

• Dasar-dasar menggunakan Langchain-Chatglm menggunakan API.MD
• Apa yang terjadi saat mengunggah dokumen.md
• Tentang HuggingFaceEMBEDDING.MD
• Tentang InMemoryDocstore.md
• Tentang karaktertextsplitter.md
• Tentang TextLoader.md
• Tentang cara menyebut antarmuka pencarian Bing.md
• Menurut kueri, prinsip memperoleh dokumen yang relevan
• Menghasilkan propt.md berdasarkan kueri dokumen dan kueri
• Menghasilkan hasil menggunakan model menurut propt.md
• Chatgpt Small Replacement ChatGLM-6B Penyebaran Lokal, Akses ke Pengalaman Pangkalan Pengetahuan Lokal |

Contoh Cina

• Model LLM Cina yang disesuaikan
• Model obrolan Cina yang disesuaikan
• Menggunakan splitter Cina.md
• Kueri docs.md menurut kueri
• mini-langchain-chatglm.md
• Buat versi sederhana dari Xiaoai Classmate Assistant.md
• chatglm mengimplementasikan kontrol agen.md
• Peningkatan Vektor Peningkatan ChatGLM Generasi - Dikombinasikan dengan ES
• Ekstraksi Grafik Pengetahuan LLM - Zhihu (zhihu.com)

Contoh bahasa Inggris

• Langchain menggunakan openai example.md (terjemahan teks)
• Openai Call Chatgpt Example.md
• Langchain mem -parsing hasil dan memformat output.md
• Dialog Langchain dengan Memory.md
• Gunakan rantai yang berbeda di langchain.md
• Q&A berbasis dokumen Langchain MD
• Menjalankan llama2 kuantisasi pada cpu menggunakan ggml dan langchain
• Tutorial lengkap tentang penyebaran lokal model open source: langchain + streamlit + llama - zhihu (zhihu.com)

Project.md

Propt yang dioptimalkan sangat penting untuk hasilnya.

YZFLY/LANGGPT: LANGGPT: Memberdayakan semua orang untuk menjadi ahli yang cepat! (github.com): Bangun propt berkualitas tinggi terstruktur

Mungkin ada beberapa masalah dengan langchain

Meskipun Langchain memberi kita kenyamanan, ada juga beberapa masalah:

• Masalah teknologi dasar model besar tidak dapat diselesaikan, terutama masalah penggunaan kembali propt : Pertama -tama, banyak masalah dalam model besar adalah cacat teknologi dasar model besar, dan bukan sesuatu yang dapat dipecahkan oleh Langchain. Masalah intinya adalah bahwa pekerjaan utama pengembangan model skala besar adalah rekayasa propt. Dan ini sangat dapat digunakan kembali. Namun, semua fitur ini membutuhkan propt tulisan tangan yang sangat disesuaikan . Setiap langkah dalam rantai membutuhkan propt tulisan tangan. Data input harus diformat dengan cara yang sangat spesifik untuk menghasilkan output yang baik untuk langkah fungsi/rantai. Menyiapkan orkestrasi DAG untuk menjalankan rantai ini hanya menyumbang 5% dari pekerjaan, dan 95% dari pekerjaan sebenarnya hanya pada penyesuaian yang diminta dan format serialisasi data. Hal -hal ini tidak dapat digunakan kembali .

• Abstraksi Langchain yang buruk dan propt sampah tersembunyi menyebabkan kesulitan pengembangan : Sederhananya, pekerjaan abstraksi Langchain tidak cukup baik, begitu banyak langkah yang perlu dibangun sendiri. Selain itu, banyak alat peraga bawaan dari Langchain adalah buruk, jadi mereka tidak sebagus membangunnya sendiri, tetapi mereka menyembunyikan alat peraga default ini.

• Kerangka kerja Langchain sulit untuk debug : Meskipun banyak metode Langchain memberikan parameter untuk mencetak informasi terperinci, mereka sebenarnya tidak memiliki banyak informasi yang berharga . Misalnya, sangat sulit jika Anda ingin melihat pertanyaan propt atau LLM yang sebenarnya. Alasannya sama seperti sebelumnya. Jadi, jika Anda menggunakan Langchain untuk berkembang dengan buruk dan Anda ingin men -debug kode untuk melihat petunjuk mana yang memiliki masalah, itu akan sulit.

• Langchain mendorong penguncian alat : Langchain mendorong pengguna untuk mengembangkan dan beroperasi di platform mereka, tetapi jika pengguna perlu melakukan beberapa alur kerja yang tidak tercakup dalam dokumentasi Langchain, sulit untuk memodifikasi bahkan dengan proxy khusus. Ini berarti bahwa begitu pengguna mulai menggunakan Langchain, mereka mungkin menemukan diri mereka terbatas pada alat dan fitur spesifik langchain dan tidak dapat dengan mudah beralih ke alat atau platform lain yang mungkin lebih cocok untuk kebutuhan mereka.

Konten di atas berasal dari:

• Langchain tidak ada gunanya |
• Beberapa masalah dengan menggunakan Langchain untuk melakukan pengembangan model besar: diskusi sengit dari Hacker News ~

Kadang -kadang kita dapat menerapkan proses yang relevan untuk beberapa tugas sederhana sendiri, sehingga setiap bagian dikendalikan oleh diri kita sendiri dan lebih mudah dimodifikasi.

Selesaikan tugas kompleks menggunakan langchain

Metode 1: Domain Fine-Tuning LLM

Penyetelan fine LLM menggunakan data domain dibatasi oleh ukuran sumber daya komputasi dan parameter model, dan model akan dikabarkan. Ini melibatkan serangkaian masalah:

• Cara mendapatkan data dan cara membersihkan data.
• Bagaimana cara menggunakan kata participle.
• Arsitektur apa yang diadopsi model, cara melatih, dan bagaimana mengevaluasi model.
• Bagaimana cara menyimpulkan secara efektif model dan cara menggunakannya.
• Domain pra-pelatihan, penyempurnaan instruksi domain, model penghargaan, dan penyelarasan hasil.

Metode 2: Langchain + LLM + Alat

Ide Dasar:

1. Pertanyaan Pengguna: Harap bandingkan produk Estee Laudert Soft Perbaikan Essence Perawatan Kulit dan Esensi Perawatan Kulit SK-II?

2. Perutean masalah routerchain, yaitu, bagaimana menjawab pertanyaan: (hubungi llm sekali)

• Routerchain dapat berupa LLM atau embedding untuk mencocokkan solusi yang sesuai.
• Di sini kami mencocokkan masalah perbandingan produk dan mendapatkan solusinya: (1) Hubungi alat pencarian produk untuk mendapatkan pengantar untuk setiap produk. (2) Bandingkan produk -produk ini melalui hasil pencarian.

3. Gunakan perencana untuk menghasilkan langkah: (hubungi llm sekali)

• Hasilkan langkah -langkah yang tepat sesuai dengan solusi, seperti: (1) Cari Estee Lauder Trem Memperbaiki Esensi Kulit. (2) Cari esensi perawatan kulit SK-II. (3) Bandingkan produk di atas.

4. Eksekutor Executer menjalankan langkah -langkah di atas: (Langkah Panggilan LLM, N adalah hiperparameter yang menunjukkan jumlah maksimum panggilan)

• Alat perlu disediakan, dan setiap masalah langkah perlu disebut LLM untuk menghasilkan parameter panggilan dari setiap alat.
• Hubungi alat untuk mendapatkan hasilnya.

5. Ringkasan semua hasil. (Hubungi LLM sekali)

Metode 3: Langchain + LLM + Pencarian

Dibandingkan dengan Skema 1, tanpa menggunakan alat, database dicari secara langsung berdasarkan pertanyaan, dan kemudian hasil yang diambil dijawab.

Metode pencarian dapat didasarkan pada kata kunci dari pertanyaan yang diberikan, dan menggunakan alat ES untuk mengambil paragraf Topk dengan kemungkinan jawaban dari database besar. Kirim paragraf Topk ini bersama dengan pertanyaan ke LLM untuk dijawab.

Metode pencarian diubah ke bentuk vektor.

Keuntungan dan Kekurangan dari metode di atas:

Field Fine-Tuning LLM : Dibutuhkan banyak tenaga kerja untuk mengumpulkan data dan tanya jawab di lapangan, dan membutuhkan banyak daya komputasi untuk menyempurnakan.

Langchain + LLM + Tools : Ini adalah layanan yang mengambil LLM sebagai sub-layanan. Generasi LLM tidak dapat diandalkan saat memanggil alat berdasarkan masalah dan alat. Tidak dapat memanfaatkan alat dengan baik. Mungkin tidak mungkin untuk memanggil alat yang sesuai sesuai dengan instruksi, dan rencananya mungkin buruk dan sulit dikendalikan. Keuntungan adalah: digunakan untuk memecahkan masalah yang kompleks.

Langchain + LLM + Pencarian : Keuntungannya adalah struktur tanya jawab utama di bidang saat ini, dan kerugiannya adalah bahwa pencarian paragraf yang mungkin berisi jawaban mungkin tidak akurat ketika mencari jawaban berdasarkan pertanyaan. Tidak cocok untuk pertanyaan dan jawaban yang rumit

Ringkasan: Masalah terbesar adalah LLM sendiri:

• Ketidakpastian output LLM akan menyebabkan penyimpangan dalam langkah -langkah selanjutnya.
• Panjang input konteks LLM: Panjangnya dapat diperpanjang hingga lebih dari 1 miliar.
• Biaya pelatihan dan LLM: Selain pengumpulan dan penyortiran manual, model besar juga dapat dihasilkan;
• Masalah Penyebaran LLM: Ada juga banyak metode untuk mempercepat penalaran, seperti kuantisasi, kompresi, penyebaran menggunakan terdistribusi, penyebaran menggunakan C ++, dll.

LLM adalah dasar dari seluruh sistem, dan masih ada banyak pilihan yang tersedia.

Referensi di atas: https://mp.weixin.qq.com/s/fvrchit0c0xhysco_d-sda

Diperpanjang

Tinggalkan beberapa pertanyaan untuk dipikirkan: mungkin terkait dengan langchain atau model besar

• ** Bagaimana memilih model besar Cina berdasarkan data di bidang vertikal? ** 1. 2. Menurut versi peringkat dari setiap ulasan. 3. Evaluasi data lapangan Anda sendiri. 4. Gambar dari model lapangan vertikal yang ada, seperti model keuangan, model hukum, model medis, dll.

• ** Jawaban untuk data terdiri dari serangkaian kalimat yang terhubung. **Misalnya:

  怎么能够解决失眠？
  1 、保持良好的心情；
  2 、进行适当的训练。
  3 、可适当使用药物。

  1. Cobalah untuk mengatur panjang teks yang terbagi menjadi lebih besar. 2. Untuk menghindari jawaban yang sedang dibagi, Anda dapat mengatur teks tertentu untuk diulang di antara paragraf yang berbeda. 3. Dokumen top_k pertama dapat dikembalikan selama pencarian. 4. Fusion Beberapa teks ditemukan dan rangkum mereka menggunakan LLM.

• Bagaimana cara membangun embedding di bidang vertikal?

• Bagaimana cara menyimpan embedding yang diperoleh?

• Bagaimana cara membimbing LLM untuk berpikir lebih baik? Anda dapat menggunakan: rantai pikiran, tanya sendiri, bereaksi .

merujuk ke

PENDAHULUAN |?

Referensi API - ??

https://mp.weixin.qq.com/s/fvrchit0c0xhysco_d-sda

https://python.langchain.com.cn/docs/modules/agents/how_to/custom_llm_chat_agent