app controller
1.0.0
ภาษาอังกฤษ | 中文
App-Controller เป็นกรอบการทำงานของ API API ที่สร้างขึ้นบนแบบจำลองภาษาขนาดใหญ่ (LLMs) และตัวแทน มันมีจุดมุ่งหมายเพื่อรวมและซิงโครไนซ์ APIs ที่จัดทำโดยแอปพลิเคชันใด ๆ (แอพ) โดยใช้ความสามารถในการใช้เหตุผลขั้นสูงของ LLMS
ภาพด้านบนแสดงให้เห็นว่าแอปคอนโทรลเลอร์ช่วยเพิ่มการโต้ตอบของแอปพลิเคชัน โดยเฉพาะกราฟิกจะถูกแบ่งออกเป็นสองส่วน: ครึ่งซ้ายให้รายละเอียดเกี่ยวกับกระบวนการสอบถามและการดำเนินการแบบดั้งเดิมเมื่อทำงานเสร็จในขณะที่ครึ่งขวาแสดงเวิร์กโฟลว์ที่มีความคล่องตัวด้วยการแทรกแซงของแอพคอนโทรลเลอร์ ในสถานการณ์ดั้งเดิมเมื่อผู้ใช้ต้องการทำงานในแอพให้สำเร็จ แต่ไม่รู้วิธีทำพวกเขาก่อนที่จะถาม LLM และรับคำตอบก่อนจากนั้นสั่งแอพเพื่อให้ได้ผลลัพธ์และทำงานให้เสร็จ ในทางตรงกันข้ามหลังจากแนะนำตัวควบคุมแอพผู้ใช้ก็เพียงแค่ป้อนความต้องการของพวกเขาในภาษาธรรมชาติลงในแอพโดยตรงเพื่อให้ได้ผลลัพธ์และทำงานให้เสร็จ ด้วยความช่วยเหลือของแอพพลิเคชั่นแอปแอพจะให้คำปรึกษา LLM สำหรับความตั้งใจของผู้ใช้และเรียนรู้คำสั่งที่จำเป็นในการดำเนินการต่อมาส่งคืนผลลัพธ์
ความสามารถหลักของแอพคอนโทรลเลอร์อยู่ในตรรกะ API orchestration ที่มีระบบอัตโนมัติสูงและรูปแบบการโต้ตอบข้อมูลที่ใช้งานง่ายทำให้ง่ายขึ้นและเร็วขึ้นสำหรับนักพัฒนาซอฟต์แวร์ในการเพิ่มคุณสมบัติอัจฉริยะลงในแอพของพวกเขา นอกจากนี้ยังมาพร้อมกับอินเทอร์เฟซ HTTP ที่ยืดหยุ่นซึ่งช่วยเพิ่มวิธีการทำงานร่วมกันของแอปพลิเคชัน ในท้ายที่สุดแอพคอนโทรลเลอร์เลอร์มีจุดมุ่งหมายเพื่อให้วิธีที่ตรงไปตรงมาและมีประสิทธิภาพสำหรับผู้ใช้และนักพัฒนาในการโต้ตอบกับแอพทำให้ประสบการณ์ไร้รอยต่อที่ตรงกับความต้องการที่หลากหลาย
การใช้งานที่ปรับปรุงแล้ว : ช่วยให้ผู้ใช้สามารถควบคุมแอปพลิเคชันของคุณผ่านคำสั่งภาษาธรรมชาติที่เรียบง่ายไม่จำเป็นต้องเรียนรู้อินเทอร์เฟซที่ซับซ้อนหรือชุดคำสั่งและทำให้บริการหรือเนื้อหาสามารถเข้าถึงได้ง่าย
การรวมง่าย : นักพัฒนาจำเป็นต้องลงทะเบียนไดเรกทอรี API ของแอปพลิเคชันเท่านั้นและแอพพลิเคชั่นคอนโทรลเลอร์จะจัดการการระบุตัวตนและการประสานโดยอัตโนมัติโดยไม่จำเป็นต้องมีการเข้ารหัสที่ซับซ้อน
การประมวลผลแบบอะซิงโครนัสและพร้อมกัน : แอพควบคุมช่วยเพิ่มการสนับสนุนสำหรับคำขอพร้อมกันโดยใช้เทคโนโลยีอะซิงโครนัสที่ทันสมัยเพื่อให้มั่นใจว่าประสิทธิภาพและการตอบสนองอย่างรวดเร็วแม้ภายใต้เงื่อนไขที่โหลดสูงด้วยผู้ใช้หรืองานหลายคน
การโต้ตอบ API ที่แข็งแกร่ง : แอพคอนโทรลเลอร์นำเสนออินเทอร์เฟซ HTTP API ที่มีความเสถียรและใช้งานง่ายทำให้สามารถโต้ตอบกับแอปพลิเคชันได้อย่างราบรื่นในขณะที่มั่นใจได้ว่าการถ่ายโอนข้อมูลที่มีประสิทธิภาพสูงและความปลอดภัย
- โมเดลภาษาขนาดใหญ่จำนวนมาก : แอปคอนโทรลเลอร์รวมเข้ากับแบบจำลองภาษาขนาดใหญ่ที่หลากหลายช่วยให้นักพัฒนาเลือกโมเดลที่เหมาะสมที่สุดตามความต้องการและบริบทของพวกเขาเพื่อความเข้าใจที่ดีที่สุดและการประมวลผลภาษาตามธรรมชาติ
เอกสารประกอบที่ครอบคลุม : แอพคอนโทรลเลอร์ให้เอกสารที่กว้างขวางรวมถึงคู่มือเริ่มต้นอย่างรวดเร็วการอ้างอิง API ตัวอย่างที่ดีที่สุดและคำถามที่พบบ่อยเพื่อช่วยให้นักพัฒนาเริ่มต้นและใช้ประโยชน์จากกรอบงานอย่างเต็มที่
- การไหลของงานถาวร : เวิร์กโฟลว์งานสามารถจัดเก็บได้อย่างต่อเนื่องในฐานข้อมูลอำนวยความสะดวกในการตรวจสอบและจัดการงานและช่วยให้นักพัฒนาตรวจสอบสถานะและประวัติได้ตลอดเวลา
? ️ กลไกการแคชอัจฉริยะ : ด้วยเทคโนโลยีการแคชขั้นสูงแอพคอนโทรลเลอร์ช่วยเพิ่มประสิทธิภาพและเวลาตอบสนองโดยการจัดเก็บผลลัพธ์ที่ร้องขอบ่อยครั้งอย่างชาญฉลาดลดจำนวนการโทรไปยังโมเดลภายนอก (เร็ว ๆ นี้)
- การเพิ่มประสิทธิภาพโทเค็น : อัลกอริทึมการเพิ่มประสิทธิภาพของแอพคอนโทรลเลอร์ของแอพคอนโทรลเลอร์จะประเมินยูทิลิตี้ข้อความอย่างชาญฉลาดลดการใช้โทเค็นและลดค่าใช้จ่ายที่เกี่ยวข้องกับการโทร API (เร็ว ๆ นี้)
เราพัฒนาปลั๊กอิน Visual Studio Code, SmartVscode ซึ่งช่วยให้ผู้ใช้สามารถใช้งานคุณสมบัติรหัส VS ต่างๆผ่านภาษาธรรมชาติ ด้านล่างนี้เป็นการสาธิตคุณสมบัติบางอย่าง:
ภาพต่อไปนี้แสดงให้เห็นถึงกระบวนการแนะนำข่าวกรองลงในแอปพลิเคชันโดยใช้เฟรมเวิร์กแอพพลิเคชั่นโดยให้รายละเอียดเกี่ยวกับงานที่นักพัฒนาแอปพลิเคชันจำเป็นต้องดำเนินการและกระบวนการที่แอพพลิเคชั่นควบคุมการเรียก API เป็นอิสระเพื่อตอบสนองคำแนะนำของผู้ใช้
หลังจากเริ่มเครื่องควบคุมแอพพลิเคชั่นแอปจะส่งต่อการป้อนผู้ใช้ไปยังแอปคอนโทรลเลอร์ แอพพลิเคชั่นรวมข้อมูลผู้ใช้และข้อมูล API ที่มีอยู่โต้ตอบกับ LLM เพื่อเลือก API ที่เหมาะสมเพื่อดำเนินการและกำหนดสถานะงาน การทำซ้ำแอปจะดำเนินการ API ที่เลือกและส่งคืนผลการดำเนินการไปยังแอพควบคุม ตัวควบคุมแอพยังคงโต้ตอบกับ LLM เพื่อทำการตัดสินใจครั้งต่อไป ท่อถูกยกเลิกเมื่องานเสร็จสมบูรณ์หรือล้มเหลวและผลลัพธ์จะถูกส่งกลับไปยังผู้ใช้
หลังจากทำตามขั้นตอนเหล่านี้เสร็จแล้วแอปสามารถมีปฏิสัมพันธ์อย่างชาญฉลาดกับผู้ใช้
เอกสารให้ข้อมูลที่ครอบคลุมเกี่ยวกับวิธีการรวมแอพควบคุมแอพเข้ากับแอปพลิเคชันของคุณ คุณสามารถอ้างถึงเอกสารเหล่านี้เพื่อรับประสบการณ์ที่ดีขึ้นกับแอพควบคุม
แอพพลิเคชั่นควบคุมภายใต้ Apache License 2.0
เข้าร่วมกับเราในการสร้างแอปคอนโทรลเลอร์! โปรดดูคู่มือการบริจาคของเราสำหรับรายละเอียดเพิ่มเติม
