หน้าแรก>การเขียนโปรแกรมที่เกี่ยวข้อง>ซอร์สโค้ดอื่น ๆ
ดาวน์โหลด

Monocle สำหรับการติดตามรหัสแอป Genai

Monocle ช่วยให้นักพัฒนาและวิศวกรแพลตฟอร์มสร้างหรือจัดการแอพ Genai ตรวจสอบสิ่งเหล่านี้ใน Prod โดยทำให้ง่ายต่อการใช้รหัสเพื่อจับร่องรอยที่สอดคล้องกับระบบนิเวศการสังเกตการณ์ความสามารถในการสังเกตการณ์ของคลาวด์โอเพนซอร์ซ

Monocle เป็นเฟรมเวิร์ก OSS ที่ขับเคลื่อนด้วยชุมชนสำหรับการติดตามรหัสแอพ Genai ที่ควบคุมเป็นโครงการ Linux Foundation AI & Data

ทำไม monocle

Monocle ถูกสร้างขึ้นสำหรับ:

  • นักพัฒนาแอป เพื่อติดตามรหัสแอปของพวกเขาในสภาพแวดล้อมใด ๆ โดยไม่ต้องตกแต่งรหัสที่กำหนดเองจำนวนมาก
  • วิศวกรแพลตฟอร์ม ไปยังแอพพลิเคชั่นเครื่องมือในการห่อหุ้มแทนที่จะขอให้แอป devs recode
  • ผู้ให้บริการส่วนประกอบของ Genai เพื่อเพิ่มคุณสมบัติการสังเกตไปยังผลิตภัณฑ์ของพวกเขา
  • องค์กร เพื่อใช้ร่องรอยจากแอพ Genai ในสแต็กการสังเกตโอเพนซอร์ซที่มีอยู่เดิม

ประโยชน์:

  • Monocle จัดเตรียมแพ็คเกจการใช้งาน + ไม่ใช่แค่ข้อมูลจำเพาะ
    • ไม่จำเป็นต้องมีความเชี่ยวชาญในข้อมูลจำเพาะ OpentElemetry
    • ไม่จำเป็นต้องมีการดำเนินการตามข้อกำหนดนั้น
    • ไม่จำเป็นต้องใช้รหัสเฉพาะของโดเมน Genai ในระยะไมล์เพื่อเครื่องมือแอปของคุณ
  • Monocle ให้ความสอดคล้อง
    • เชื่อมต่อร่องรอยระหว่างการดำเนินการรหัสแอพการอนุมานแบบจำลองหรือการดึงข้อมูล
    • ไม่จำเป็นต้องทำความสะอาดข้อมูล telemetry ในผู้ให้บริการส่วนประกอบ Genai
    • ทำงานเหมือนกันในห้องปฏิบัติการส่วนบุคคล dev หรือ org cloud prod environment
    • ส่งร่องรอยไปยังสถานที่ที่เหมาะกับขนาดงบประมาณและความสามารถในการสังเกตของคุณ
  • Monocle เป็นโอเพ่นซอร์สอย่างเต็มที่และเป็นตัวขับเคลื่อนชุมชน
    • ไม่มีผู้ขายล็อคอิน
    • การใช้งานมีความโปร่งใส
    • คุณสามารถใช้หรือปรับแต่งได้อย่างอิสระเพื่อให้เหมาะกับความต้องการของคุณ

สิ่งที่ Monocle จัดเตรียมไว้

  • ใช้เครื่องมือเครื่องมือง่าย ๆ
  • รูปแบบที่เข้ากันได้ของ OpentElemetry สำหรับช่วง
  • Metamodel ที่ดูแลโดยชุมชนและขยายได้สำหรับการติดตามส่วนประกอบของ Genai
  • ส่งออกไปยังที่เก็บข้อมูลในพื้นที่และคลาวด์

ใช้ monocle

  • รับแพ็คเกจ monocle 
    pip install monocle_apptrace
  • เครื่องมือแอพรหัสของคุณ
    • นำเข้าแพ็คเกจ Monocle 
         from monocle_apptrace.instrumentor import setup_monocle_telemetry
    • การติดตั้งเครื่องมือวัดในฟังก์ชั่น main() ของคุณ 
         setup_monocle_telemetry(workflow_name="your-app-name")
  • (ทางเลือก) แก้ไขการกำหนดค่าเพื่อแก้ไขตำแหน่งที่ส่งร่องรอย

ดูคู่มือผู้ใช้ Monocle สำหรับรายละเอียดเพิ่มเติม

แผนงาน

เป้าหมายของ Monocle คือการสนับสนุนการติดตามแอพที่เขียนใน ภาษาใด ๆ ที่มี การประสาน LLM หรือเฟรมเวิร์กตัวแทน และสร้างขึ้นโดยใช้แบบจำลองเวกเตอร์ตัวแทนตัวแทนหรือส่วนประกอบอื่น ๆ ที่ให้บริการโดย คลาวด์หรือผู้ให้บริการอนุมานแบบจำลองใด ๆ

เวอร์ชันปัจจุบันรองรับ:

  • ภาษา: (?) Python, () typescript
  • llm-frameworks: (?) Langchain, (?) llamainedex, (?) Haystack, () Flask
  • ผู้ให้บริการการอนุมาน LLM: (?) Openai, (?) Azure Openai, (?) Nvidia Triton, () Aws Bedrock, () Google Vertex, () Azure Ml, () กอดใบหน้า
  • ร้านค้าเวกเตอร์: (?) faiss, () openSearch, () milvus
  • ผู้ส่งออก: (?) stdout, ไฟล์ (?), () Azure Blob Storage, () AWS S3, () Google Cloud Storage

เข้าร่วม

ให้ข้อเสนอแนะ

  • ส่งปัญหาและการร้องขอการปรับปรุงผ่านปัญหา GitHub

มีส่วนช่วย

  • Monocle เป็นโครงการโอเพ่นซอร์สในชุมชน เรายินดีต้อนรับการมีส่วนร่วมของคุณ โปรดดูที่การสนับสนุนและ code_of_conduct สำหรับแนวทาง คู่มือผู้สนับสนุนให้รายละเอียดทางเทคนิคของโครงการ
ขยาย
ข้อมูลเพิ่มเติม
แอปที่เกี่ยวข้อง
แนะนำสำหรับคุณ
ข้อมูลที่เกี่ยวข้อง ทั้งหมด