aiconfig

AICONFIG-กรอบโอเพนซอร์ซสำหรับการสร้างแอปพลิเคชัน AI เกรดการผลิต

เอกสาร

AICONFIG เป็นกรอบการทำงานที่ทำให้ง่ายต่อการสร้างแอปพลิเคชัน AI แบบกำเนิดสำหรับการผลิต มันจัดการการแจ้งเตือน AI รุ่นและพารามิเตอร์แบบจำลองตามการกำหนดค่า JSON-serializable ที่สามารถควบคุมเวอร์ชันประเมินตรวจสอบและเปิดในตัวแก้ไขท้องถิ่นสำหรับการสร้างต้นแบบอย่างรวดเร็ว

ช่วยให้คุณสามารถจัดเก็บและทำซ้ำพฤติกรรม AI กำเนิด แยกต่างหากจากรหัสแอปพลิเคชันของคุณ โดยเสนอเวิร์กโฟลว์การพัฒนา AI ที่มีความคล่องตัว

บริบทเพิ่มเติมที่นี่

เร็ว

สำหรับผู้ใช้รหัส VS:

• ติดตั้งส่วนขยายรหัส AICONFIG EDITOR VS

หากคุณไม่ได้ใช้รหัส VS ให้ทำตามขั้นตอนเหล่านี้:

1. pip3 install python-aiconfig
2. export OPENAI_API_KEY='your-key'
3. aiconfig edit

การเริ่มต้นการสอน

ตรวจสอบการสอนการเริ่มต้นใช้งานเต็มรูปแบบ

ติดตั้ง

 # for python installation:
pip3 install python-aiconfig
# or using poetry: poetry add python-aiconfig

# for node.js installation:
npm install aiconfig
# or using yarn: yarn add aiconfig

หมายเหตุ: คุณต้องติดตั้งแพ็คเกจ Python Aiconfig เพื่อใช้ตัวแก้ไข AICONFIG เพื่อสร้างและทำซ้ำตามพรอมต์แม้ว่าคุณจะวางแผนที่จะใช้โหนด SDK เพื่อโต้ตอบกับ AICONFIG ของคุณในรหัสแอปพลิเคชันของคุณ

คุณต้องระบุคีย์ OpenAI API ของคุณ เปิดเทอร์มินัลของคุณและเพิ่มบรรทัดนี้แทนที่ 'Aapi-Api-Key-Here' ด้วยคีย์ API ของคุณ: export OPENAI_API_KEY='your-api-key-here'

เปิดตัวแก้ไข AICONFIG ในรหัส VS

AICONFIG EDITOR ช่วยให้คุณสร้างและแก้ไขพารามิเตอร์พรอมต์และพารามิเตอร์แบบจำลองที่เก็บไว้เป็น AICONFIGS

1. ติดตั้งรหัส AICONFIG สำหรับ VS CODE
2. เปิดไฟล์ travel.aiconfig.json ในรหัส VS สิ่งนี้จะเปิดตัวแก้ไข AICONFIG โดยอัตโนมัติในรหัส VS

เรียกใช้พรอมต์ในตัวแก้ไข

ด้วยตัวแก้ไข AICONFIG คุณสามารถสร้างและเรียกใช้พรอมต์ด้วยการผูกมัดและตัวแปรที่ซับซ้อน Editor อัตโนมัติประหยัดทุก ๆ 15 วินาทีและคุณสามารถบันทึกด้วยตนเองด้วยปุ่มบันทึก การอัปเดตของคุณจะปรากฏในไฟล์ AICONFIG JSON ดูตัวอย่างของห่วงโซ่พรุที่สร้างขึ้นด้วยตัวแก้ไข:

ไฟล์ AICONFIG JSON ที่สอดคล้องกัน:

travel.aiconfig.json

{
  "name": "NYC Trip Planner",
  "description": "Intrepid explorer with ChatGPT and AIConfig",
  "schema_version": "latest",
  "metadata": {
    "models": {
      "gpt-3.5-turbo": {
        "model": "gpt-3.5-turbo",
        "top_p": 1,
        "temperature": 1
      },
      "gpt-4": {
        "model": "gpt-4",
        "max_tokens": 3000
      }
    },
    "default_model": "gpt-3.5-turbo"
  },
  "prompts": [
    {
      "name": "get_activities",
      "input": "Tell me 10 fun attractions to do in NYC."
    },
    {
      "name": "gen_itinerary",
      "input": "Generate an itinerary ordered by {{order_by}} for these activities: {{get_activities.output}}.",
      "metadata": {
        "model": "gpt-4",
        "parameters": {
          "order_by": "geographic location"
        }
      }
    }
  ]
}

ใช้ AICONFIG SDK

คุณสามารถเรียกใช้พรอมต์จาก AICONFIG ที่สร้างขึ้นจาก AICONFIG Editor ในรหัสแอปพลิเคชันของคุณโดยใช้ Python หรือ Node SDK เราได้แสดง Python SDK ด้านล่าง

 # load your AIConfig
from aiconfig import AIConfigRuntime , InferenceOptions
import asyncio

config = AIConfigRuntime . load ( "travel.aiconfig.json" )

# setup streaming
inference_options = InferenceOptions ( stream = True )

# run a prompt
async def gen_nyc_itinerary ():
  gen_itinerary_response = await config . run ( "gen_itinerary" , params = { "order_by" : "location" }, options = inference_options , run_with_dependencies = True )

asyncio . run ( gen_nyc_itinerary ())

# save the aiconfig to disk and serialize outputs from the model run
config . save ( 'updated_travel.aiconfig.json' , include_outputs = True )

แก้ไข aiconfig ของคุณ

คุณสามารถวนซ้ำและแก้ไข AICONFIG ของคุณได้อย่างรวดเร็วโดยใช้ AICONFIG Editor

1. เปิดเทอร์มินัลของคุณ
2. เรียกใช้คำสั่งนี้: aiconfig edit --aiconfig-path=travel.aiconfig.json

แท็บใหม่ที่มี AICONFIG Editor เปิดในเบราว์เซอร์เริ่มต้นของคุณที่ http: // localhost: 8080/พร้อมพรอมต์ตรรกะลอจิกและการตั้งค่าจาก travel.aiconfig.json Editor อัตโนมัติประหยัดทุก ๆ 15 วินาทีและคุณสามารถบันทึกด้วยตนเองด้วยปุ่มบันทึก การอัปเดตของคุณจะปรากฏในไฟล์ AICONFIG

ทำไมสิ่งนี้จึงสำคัญ?

วันนี้รหัสแอปพลิเคชันจะถูกรวมเข้ากับการตั้งค่า Gen AI อย่างแน่นหนาสำหรับแอปพลิเคชัน-พรอมต์พารามิเตอร์และตรรกะเฉพาะรุ่นทั้งหมดถูกทำให้หมดไปด้วยรหัสแอพ

• ส่งผลให้มีความซับซ้อนเพิ่มขึ้น
• ทำให้ยากที่จะวนซ้ำตามพรอมต์หรือลองใช้รุ่นที่แตกต่างกันได้อย่างง่ายดาย
• ทำให้ยากที่จะประเมินประสิทธิภาพที่รวดเร็ว/โมเดล

AICONFIG ช่วยผ่อนคลายความซับซ้อนโดยการแยกพรอมต์พารามิเตอร์โมเดลและตรรกะเฉพาะรุ่นจากแอปพลิเคชันของคุณ

• ลดความซับซ้อนของรหัสแอปพลิเคชัน - เพียงแค่เรียก config.run()
• เปิด aiconfig ในสนามเด็กเล่นเพื่อทำซ้ำอย่างรวดเร็ว
• การควบคุมเวอร์ชันและประเมิน aiconfig - เป็นสิ่งประดิษฐ์ AI สำหรับแอปพลิเคชันของคุณ

คุณสมบัติ

• พรอมต์เป็น configs : รูปแบบ JSON มาตรฐานเพื่อจัดเก็บพรอมต์และการตั้งค่ารุ่นในการควบคุมแหล่งที่มา
• ตัวแก้ไขสำหรับพรอมต์ : ต้นแบบและวนซ้ำอย่างรวดเร็วในการแจ้งเตือนและการตั้งค่าแบบจำลองของคุณด้วยตัวแก้ไข AICONFIG
• Model-Agnostic และ Multimodal SDK : Python & Node SDKs เพื่อใช้ aiconfig ในรหัสแอปพลิเคชันของคุณ AICONFIG ได้รับการออกแบบให้เป็น แบบจำลอง และ หลายโมดอล ดังนั้นคุณสามารถขยายให้ทำงานกับโมเดล AI แบบกำเนิดใด ๆ รวมถึงข้อความรูปภาพและเสียง
• Extensible : ขยาย aiconfig เพื่อทำงานกับรุ่นใด ๆ และจุดสิ้นสุดของคุณเอง
• การพัฒนาความร่วมมือ : AICONFIG ช่วยให้ผู้คนที่แตกต่างกันสามารถทำงานเกี่ยวกับการแจ้งเตือนและการพัฒนาแอพและร่วมมือกันโดยการแบ่งปันสิ่งประดิษฐ์ aiconfig

ใช้เคส

AICONFIG ทำให้ง่ายต่อการทำงานกับโซ่พรอมต์ที่ซับซ้อนรุ่นต่าง ๆ และเวิร์กโฟลว์ AI ขั้นสูง เริ่มต้นด้วยสูตรอาหารเหล่านี้และเข้าถึงเพิ่มเติม /cookbooks :

• ผ้าขี้ริ้วกับ aiconfig
• ฟังก์ชั่นเรียกด้วย openai
• CLI chatbot
• การกำหนดเส้นทางที่รวดเร็ว
• ความสอดคล้องหลาย LLM
• ยามปลอดภัยสำหรับ LLMS - Llama Guard
• การตรวจสอบห่วงโซ่

สคีมา

• Aiconfig Schema

รุ่นที่รองรับ

AICONFIG รองรับรุ่นต่อไปนี้นอกกรอบ ดูตัวอย่าง:

• รุ่น OpenAI (GPT-3, GPT-3.5, GPT-4, DALLE3)
• ราศีเมถุน
• ลาม่า
• ผู้พิทักษ์ลามา
• Google Palm Models (Palm Chat)
• กอดโมเดลงานสร้างข้อความใบหน้า (เช่น Mistral-7b)

หากคุณต้องการใช้โมเดลที่ไม่ได้ให้ไว้นอกกรอบคุณสามารถใช้ ModelParser ได้ ดูคำแนะนำเกี่ยวกับวิธีการสนับสนุนโมเดลใหม่ใน AICONFIG

ความสามารถในการขยายได้

AICONFIG ได้รับการออกแบบให้ปรับแต่งและขยายสำหรับกรณีการใช้งานของคุณ คู่มือการขยายความสามารถจะมีรายละเอียดเพิ่มเติม

ปัจจุบันมี 3 วิธีหลักในการขยาย aiconfig:

1. รองรับรุ่นอื่น ๆ - กำหนดส่วนขยาย ModelParser
2. ตัวจัดการเหตุการณ์การโทรกลับ - การติดตามและการตรวจสอบ
3. ข้อมูลเมตาที่กำหนดเอง - บันทึกฟิลด์ที่กำหนดเองใน aiconfig

มีส่วนร่วมใน AICONFIG

เรากำลังพัฒนา AICONFIG อย่างรวดเร็ว! เรายินดีต้อนรับการมีส่วนร่วมและแนวคิดสำหรับวิธีการปรับปรุงโครงการ

• เข้าร่วมการสนทนาในช่อง Discord - #aiconfig
• เปิดปัญหาสำหรับคำขอคุณสมบัติ
• อ่านคู่มือการสนับสนุนของเรา

อัปเดตล่าสุด

ขณะนี้เราเปิดตัวแพ็คเกจ pypi และ npm รุ่นใหม่ที่ติดแท็กใหม่ทุกสัปดาห์ Hotfixes ออกไปเมื่อเสร็จสิ้น

• Changelog: ตรวจสอบการอัปเดตล่าสุดของเรา
• Roadmap: สิ่งที่เรากำลังสร้างต่อไป - โปรดมีส่วนร่วม ดูคู่มือการสนับสนุนของเราที่นี่