agentkit

AgenKit: dengan cepat membangun aplikasi agen berkualitas tinggi

AgenKit adalah starter kit berbasis Langchain yang dikembangkan oleh BCG X untuk membangun aplikasi agen. Pengembang dapat menggunakan AgentKit untuk

• Eksperimen dengan cepat pada arsitektur agen terkendala Anda dengan UI yang indah
• Bangun aplikasi agen berbasis obrolan tumpukan penuh yang dapat skala untuk MVP tingkat produksi

Keuntungan utama dari alat AgentKit meliputi:

• Bangun Aplikasi Agen Berkualitas Tinggi dengan Cepat : Bangun demo yang kuat dalam beberapa jam menggunakan modular, mudah dikonfigurasikan Tech Stack Berdasarkan Fastapi/NextJS dan Perpustakaan Alat Genai yang Berguna
• UI/UI/UX yang fleksibel dan reaktif yang dirancang untuk agen : React/NextJS UI berbasis obrolan yang mudah dikonfigurasi, dengan fitur seperti streaming, rendering tabel/visualisasi/kode, status tindakan agen dan banyak lagi
• ? ️ Fokus pada keandalan : Mudah dikonfigurasi arsitektur perutean memberikan kendali atas kemungkinan jalur yang dapat diambil oleh agen, meningkatkan keandalan dan membuatnya cocok untuk kasus penggunaan kehidupan nyata
• ? Siapkan ke skala : Siapkan ke skala ke MVP dengan manajemen antrian siap pakai, auth, caching, pemantauan dll.

Agentkit_video.mp4

Tumpukan teknologi

Paket starter didasarkan pada teknologi terbaru untuk kinerja, keamanan, dan pengalaman pengembang yang optimal.

• ? Nextjs 14 dengan Tailwind dan Daisyui
• Python 3.10 dengan Fastapi, Sqlmodel dan Pydantic 2.x.
• ? Konfigurasi Langchain dan Langssmith E2E
• ? Otentikasi: NextAuth terintegrasi dengan Fastapi
• ? Seledri dan Redis untuk tugas yang sudah lama berjalan, caching dll.
• ? Postgres lokal dengan ekstensi pgvektor
• ⬆️ Komposisi Docker untuk Penyebaran Sederhana dan DX
• ? Linting, tes, dan kait pra-berkomitmen pra-konfigurasi

Catatan: Ini adalah starter kit - untuk penyebaran produksi, kami sarankan untuk menambahkan fungsionalitas keamanan kelas perusahaan. Terutama saat menggunakan LLM, waspadai risiko yang diketahui seperti injeksi cepat (baca lebih lanjut).

QuickStart

Untuk setup cepat AgentKit, gunakan langkah -langkah di bawah ini, di mana aplikasi backend dan aplikasi Frontend dijalankan di dalam wadah Docker. Instruksi pengaturan yang lebih rumit dapat ditemukan dalam dokumentasi.

Prasyarat

• Docker: https://www.docker.com/get-started

Langkah Instalasi

1. Kloning repositori yang berisi kode sumber untuk aplikasi backend dan frontend.

2. Salin file frontend/.env.example di direktori frontend dan ubah nama menjadi .env . Juga, salin file .env.example di direktori root repositori dan ubah nama menjadi .env .

   • Ubah openai_api_key dan openai_organization menjadi milik Anda (nb openai_organization harus menjadi 'ID Organisasi' Openai Anda)

3. Di terminal, arahkan ke direktori root dari repositori yang dikloning. Bangun dan mulai wadah Docker dengan perintah berikut:

    docker-compose -f docker-compose.yml up -d
   

   Tunggu wadah untuk membangun dan memulai, yang mungkin memakan waktu beberapa menit tergantung pada sistem Anda. Setelah wadah aktif dan berjalan, Anda dapat mengakses aplikasi di browser Anda di http: // localhost.

Demo Database Musik Chinook

• Jika wadah Docker sedang berjalan, jalankan docker-compose down --volumes
• Ikuti instruksi pemasangan di atas dan bertukar docker-compose.yml dengan docker-compose-demo.yml untuk menjalankan aplikasi
• Coba prompt "Berapa banyak artis dan lagu yang ada di database?" Untuk melihat AgenKit beraksi!

Lihatlah Demo Build yang lebih canggih setelah tutorial.

Siapkan Aplikasi Anda Sendiri

• Konfigurasikan Tautan Agen dan Alat Anda
• (Opsional) Sesuaikan UI ke tautan Use Case Anda
• (Opsional) Mengatur Evaluasi dengan Lansmith Link

Dokumentasi

Temukan dokumentasi yang di -host di sini.

• Instruksi instalasi untuk menjalankan frontend atau seluruh aplikasi di luar buruh pelabuhan
• Konsep kunci
• Konfigurasi Agen dan Alat
• Konfigurasi UI
• Fitur opsional
• Perpustakaan Alat

Cara kerjanya

Keandalan

AgenKit berupaya menyelesaikan masalah keandalan agen seperti agen bereaksi dengan membatasi rute potensial yang dapat dibawa agen ke set rute yang telah dikonfigurasi sebelumnya, atau rencana aksi . Karena untuk banyak kasus penggunaan, rute potensial yang dapat diambil agen diketahui, kita dapat menggunakan keahlian domain manusia kita untuk mengarahkan agen ke arah yang benar, dan menguranginya ke arah atau lubang kelinci yang tidak terduga. Ini dicapai dengan menggabungkan agen meta dengan rencana aksi : satu set alat yang dieksekusi secara linier dan paralel, mirip dengan rantai. Agen meta mengambil prompt pengguna dan mengeluarkan rencana tindakan yang paling cocok untuk menghasilkan jawaban. Catatan: Menerapkan beberapa agen meta dimungkinkan, menghasilkan pohon rute yang mungkin.

Pengalaman Pengguna

Untuk mengoptimalkan pengalaman pengguna, output perantara dari setiap langkah dalam rencana tindakan dapat ditunjukkan kepada pengguna. Misalnya, pertimbangkan rencana tindakan yang terdiri dari 2 peralatan: [[sql_tool, pdf_tool], [generate_summary_tool, visualize_tool]] . Pada langkah tindakan pertama, informasi dari database SQL dan database vektor dengan PDF tertanam diambil secara paralel. Data yang diambil dan PDF yang paling relevan dialirkan ke UI segera setelah langkah tindakan pertama selesai. Pada langkah tindakan kedua, output dari langkah 1 diteruskan ke alat yang menghasilkan ringkasan teks dan alat yang membuat visualisasi JSX dari data, yang dialirkan ke UI untuk membuat jawaban akhir.

Untuk ikhtisar tingkat tinggi dari aliran perutean dan koneksi UI, silakan lihat diagram di bawah ini:

Fitur opsional tambahan

• Integrasi umpan balik : Kumpulkan umpan balik tentang jawaban yang dihasilkan dari pengguna

• Pengaturan Pengguna : Izinkan pengguna untuk menentukan pengaturan default di aplikasi yang dapat digunakan untuk menyesuaikan prompt untuk pengguna

• Otentikasi Pengguna : Aktifkan NextAuth di aplikasi Anda untuk mengotentikasi pengguna dengan github atau dengan email/kata sandi

Lihat dokumentasi fitur opsional untuk info lebih rinci.

Sejarah Bintang

Dukungan dan Pemeliharaan

Proyek ini berputar dari kombinasi templat yang berbeda. Salah satu inspirasi hebat adalah Fastapi-Alembic-Sqlmodel-Async, yang menyediakan fondasi untuk pengaturan FASTAPI. Silakan periksa!

Great thanks to all the contributors: @kaikun213 @drivian @ielmansouri @mastersplinter @tanmaygupta9 @sofglide @harticode @edenbd @ben-howt @carelschw @gustafvh @casper321 @modvinden1 @valerie-jzr @ispoljari @martinthenext @rkdy

Harap baca CONTRIBUTING.md untuk detail lebih lanjut tentang cara berkontribusi. PR dipersilakan ❤️

Lisensi

• Proyek ini dilisensikan berdasarkan ketentuan lisensi MIT