langfuse

Langfuse: Open Source LLM Engineering Platform

LLM Observability, Prompt Management, LLM Evaluasi,
Dataset, metrik LLM, dan taman bermain yang cepat

Daftar · Self Host · Demo (Data Langsung)

Documents · Laporkan Bug · Permintaan Fitur · Changelog · Roadmap · Perselisihan

Langfuse menggunakan diskusi github untuk dukungan dan permintaan fitur.
Kami sedang merekrut. Bergabunglah dengan kami dalam rekayasa produk dan hubungan pengembang.

Tinjauan Langfuse

Hapus video untuk voice-over

langfuse-overview-3min.mp4

Mengembangkan

• LLM Observability: Instrumen aplikasi Anda dan mulai menelan jejak ke Langfuse (QuickStart, Integrations Tracing)
• Langfuse UI: Inspect and Debug Complex Log (Demo, Tracing)
• Manajemen Prompt: Kelola, Versi dan Menyebarkan Prompt dari dalam Langfuse (Manajemen Prompt)
• Engineering Prompt: Uji dan Ikat pada permintaan Anda dengan LLM Playground

Monitor

• LLM Analytics: Track Metrics (biaya, latensi, kualitas) dan mendapatkan wawasan dari dasbor & ekspor data (Analytics)
• Evaluasi LLM: Kumpulkan dan Hitung Skor untuk Penyelesaian LLM Anda (Skor & Evaluasi)
  • Jalankan (evaluasi berbasis model) dan LLM-as-A-Judge di dalam Langfuse
  • Kumpulkan Umpan Balik Pengguna (Umpan Balik Pengguna)
  • Skor output LLM secara manual di Langfuse (skor manual)

Tes

• Eksperimen: melacak dan menguji perilaku aplikasi sebelum menggunakan versi baru
  • Dataset memungkinkan Anda menguji pasangan yang diharapkan dan output dan kinerja benchmark sebelum menggunakan (dataset)
  • Lacak versi dan rilis dalam aplikasi Anda (Eksperimen, Manajemen Prompt)

Mulai

Langfuse Cloud

Penempatan yang dikelola oleh tim Langfuse, tier bebas yang murah hati (rencana hobi), tidak ada kartu kredit yang diperlukan.

»Langfuse Cloud

Open Open Source Open Open Source Observability dengan Langfuse

Localhost (Docker)

 # Clone repository
git clone https://github.com/langfuse/langfuse.git
cd langfuse

# Run server and database
docker compose up -d

→ Pelajari lebih lanjut tentang menggunakan secara lokal

Self-Host (Docker)

Langfuse mudah untuk menjadi tuan rumah mandiri dan terus diperbarui. Saat ini hanya membutuhkan satu wadah Docker dan database Postgres. → Instruksi Hosting Mandiri

Penyebaran Templated: Kereta Api, GCP, AWS, Azure, Kubernetes dan lainnya

Mulai

Kunci API

Anda membutuhkan kunci publik dan rahasia Langfuse untuk memulai. Daftar di sini dan temukan di pengaturan proyek Anda.

Data menelan · Menginstruksikan aplikasi Anda · LLM Observability dengan Langfuse

Catatan: Kami sarankan menggunakan SDK kami yang sepenuhnya async, yang diketik yang memungkinkan Anda untuk instrumen aplikasi LLM apa pun dengan model yang mendasarinya. Mereka tersedia di Python (dekorator) & JS/TS. SDK akan selalu menjadi cara yang paling fitur dan stabil untuk memasukkan data ke Langfuse.

Lihat → QuickStart untuk mengintegrasikan Langfuse.

Integrasi Observabilitas LLM

Integrasi	Dukungan	Keterangan
SDK	Python, JS/TS	Instrumentasi manual menggunakan SDK untuk fleksibilitas penuh.
Openai	Python, JS/TS	Instrumentasi otomatis menggunakan penggantian drop-in OpenAI SDK.
Langchain	Python, JS/TS	Instrumentasi Otomatis dengan Melewati Penangan Balik ke Aplikasi Langchain.
Llamaindex	Python	Instrumentasi Otomatis melalui Sistem Callback LlamainDex.
Tumpukan jerami	Python	Instrumentasi Otomatis melalui Sistem Penelusuran Konten Haystack.
Litellm	Python, JS/TS (hanya proxy)	Gunakan LLM apa pun sebagai penurunan pengganti untuk GPT. Gunakan azure, openai, cohere, antropik, ollama, vllm, sagemaker, huggingface, replikasi (100+ llms).
Vercel Ai SDK	JS/TS	TypeScript Toolkit yang dirancang untuk membantu pengembang membangun aplikasi bertenaga AI dengan React, Next.js, Vue, Svelte, Node.js.
API		Langsung hubungi API publik. OpenAPI Spec Tersedia.

Paket yang terintegrasi dengan Langfuse:

Nama	Keterangan
Pengajar	Perpustakaan untuk mendapatkan output LLM terstruktur (JSON, Pydantic)
Dify	Platform Pengembangan Aplikasi LLM Open Source tanpa pembangun no-kode.
Ollama	Jalankan LLMS Open Source dengan mudah di mesin Anda sendiri.
Mirascope	Python Toolkit untuk Membangun Aplikasi LLM.
Flowise	JS/TS No-Code Builder untuk aliran LLM yang disesuaikan.
Langflow	UI yang berbasis di Python untuk Langchain, dirancang dengan aliran reaksi untuk memberikan cara yang mudah untuk bereksperimen dan prototipe aliran.

Pertanyaan dan umpan balik

Ide dan peta jalan

• Peta jalan
• Diskusi GitHub
• Permintaan fitur

Dukungan dan umpan balik

Dalam urutan preferensi cara terbaik untuk berkomunikasi dengan kami:

• Diskusi GitHub (Dipilih): Kontribusi ide, permintaan dukungan dan bug laporan
• Perselisihan: Dukungan Komunitas
• Secara pribadi: Hubungi di Langfuse Dot Com

Berkontribusi pada Langfuse

• Pilih ide
• Naikkan dan mengomentari masalah
• Buka PR - Lihat Kontribusi.MD untuk detail tentang cara mengatur lingkungan pengembangan.

Lisensi

Repositori ini berlisensi MIT, kecuali untuk folder ee . Lihat lisensi dan dokumen untuk lebih jelasnya.

Misc

Dapatkan API untuk mengekspor data Anda

Dapatkan rute untuk menggunakan data dalam aplikasi hilir (misalnya analitik tertanam). Anda juga dapat mengaksesnya dengan mudah melalui SDK (Docs).

Keamanan & Privasi

Kami menanggapi keamanan dan privasi data dengan serius. Silakan merujuk ke halaman keamanan dan privasi kami untuk informasi lebih lanjut.

Telemetri

Secara default, Langfuse secara otomatis melaporkan statistik penggunaan dasar instance yang diselenggarakan sendiri ke server terpusat (posthog).

Ini membantu kita untuk:

1. Pahami bagaimana Langfuse digunakan dan meningkatkan fitur yang paling relevan.
2. Lacak penggunaan keseluruhan untuk pelaporan internal dan eksternal (misalnya penggalangan dana).

Tidak ada data yang dibagikan dengan pihak ketiga dan tidak termasuk informasi sensitif apa pun. Kami ingin menjadi sangat transparan tentang ini dan Anda dapat menemukan data yang tepat yang kami kumpulkan di sini.

Anda dapat memilih keluar dengan mengatur TELEMETRY_ENABLED=false .

Sejarah Bintang