UniLLM

UNILLM ช่วยให้คุณโทรหา LLM ใด ๆ โดยใช้ OpenAI API ด้วยความปลอดภัยประเภท 100%

ประโยชน์

• รวมเข้ากับผู้ให้บริการและรุ่นใด ๆ โดยใช้ OpenAI API
• การตอบสนองและบันทึกการแชทที่สอดคล้องกันในทุกรุ่นและผู้ให้บริการ
• - พิมพ์ความปลอดภัยในผู้ให้บริการและทุกรุ่น
• - สลับระหว่าง LLMS ได้อย่างราบรื่นโดยไม่ต้องเขียนโค้ดของคุณใหม่
• ✅หากคุณเขียนการทดสอบสำหรับบริการของคุณคุณจะต้องทดสอบเพียงครั้งเดียว
• (เร็ว ๆ นี้) ขอแคชและการ จำกัด อัตรา
• (เร็ว ๆ นี้) การตรวจสอบต้นทุนและการแจ้งเตือน

การใช้งาน

ตรวจสอบเอกสารเชิงโต้ตอบของเรา

การแชทเสร็จสมบูรณ์

ด้วย UNILLM คุณสามารถใช้การแชทเสร็จได้แม้กระทั่งสำหรับผู้ให้บริการ/รุ่นที่ไม่สนับสนุนมัน (เช่นมานุษยวิทยา)

npm i unillm

 import { UniLLM } from 'unillm' ;

const unillm = new UniLLM ( ) ;

// OpenAI
const response = await unillm . createChatCompletion ( "openai/gpt-3.5-turbo" , { messages : ... } ) ;
const response = await unillm . createChatCompletion ( "openai/gpt-4" , { messages : ... } ) ;

// Anthropic
const response = await unillm . createChatCompletion ( "anthropic/claude-2" , { messages : ... } ) ;
const response = await unillm . createChatCompletion ( "anthropic/claude-1-instant" , { messages : ... } ) ;

// Azure OpenAI
const response = await unillm . createChatCompletion ( "azure/openai/<deployment-name>" , { messages : ... } ) ;

// More coming soon!

ต้องการดูตัวอย่างเพิ่มเติมหรือไม่? ตรวจสอบ เอกสารเชิงโต้ตอบ

⚡สตรีมมิ่ง

ในการเปิดใช้งานการสตรีมเพียงแค่ให้ stream: true ในวัตถุตัวเลือก นี่คือตัวอย่าง:

 const response = await unillm . createChatCompletion ( "openai/gpt-3.5-turbo" , {
  messages : ... ,
  stream : true
} ) ;

ต้องการดูตัวอย่างเพิ่มเติมหรือไม่? ตรวจสอบ เอกสารเชิงโต้ตอบ

การบริจาค

เรายินดีต้อนรับการมีส่วนร่วมจากชุมชน! โปรดส่งคำขอดึงหรือสร้างปัญหาสำหรับข้อเสนอแนะหรือข้อเสนอแนะคุณสมบัติ

หากคุณต้องการมีส่วนร่วม แต่ไม่แน่ใจว่าจะเข้าร่วม Discord ของเราและเรายินดีที่จะช่วยเหลือคุณ!

โปรดตรวจสอบการบริจาค MD ก่อนที่จะมีส่วนร่วม

ใบอนุญาต

ซอร์สโค้ดของที่เก็บนี้มีอยู่ภายใต้ MIT