aiconfig
v1.1.32
Aiconfig-Der Open-Source-Rahmen für KI-Anwendungen für Gebäudeproduktionsqualität
Dokumentation
Aiconfig ist ein Framework, mit dem generative KI -Anwendungen für die Produktion einfach erstellt werden können. Es verwaltet generative KI-Eingabeaufforderungen, Modelle und Modellparameter als JSON-serialisierbare Konfigurationen, die in einem lokalen Editor für schnelle Prototypen kontrolliert, bewertet, überwacht und geöffnet werden können.
Sie können das generative KI -Verhalten getrennt von Ihrem Anwendungscode speichern und iterieren und einen optimierten AI -Entwicklungs -Workflow anbieten.
Mehr Kontext hier.
Für VS -Code -Benutzer:
Wenn Sie nicht VS -Code verwenden, befolgen Sie die folgenden Schritte:
pip3 install python-aiconfigexport OPENAI_API_KEY='your-key'aiconfig editSchauen Sie sich das vollständige Erste -Tutorial an.
# for python installation:
pip3 install python-aiconfig
# or using poetry: poetry add python-aiconfig
# for node.js installation:
npm install aiconfig
# or using yarn: yarn add aiconfigHinweis: Sie müssen das Python Aiconfig -Paket installieren, um den Aiconfig -Editor zu verwenden, um Eingabeaufforderungen zu erstellen und zu iterieren, auch wenn Sie den Knoten SDK verwenden möchten, um mit Ihrem Aiconfig in Ihrem Anwendungscode zu interagieren.
Sie müssen Ihren OpenAI -API -Schlüssel angeben. Öffnen Sie Ihr Terminal und fügen Sie diese Zeile hinzu. Ersetzen Sie "Your-api-Key-hier" durch Ihren API-Schlüssel: export OPENAI_API_KEY='your-api-key-here' .
Der Aiconfig -Editor hilft Ihnen dabei, die als Aiconfigs gespeicherten Eingabeaufforderungen und Modellparameter visuell zu erstellen und zu bearbeiten.
travel.aiconfig.json in vs Code. Dadurch wird der Aiconfig -Editor automatisch in VS Code geöffnet.Mit einem Aiconfig -Editor können Sie Eingabeaufforderungen mit komplexer Verkettung und Variablen erstellen und ausführen. Der Editor verdrängt alle 15 Sekunden automatisch und Sie können manuell mit der Schaltfläche Speichern speichern. Ihre Updates werden in der Aiconfig JSON -Datei widerspiegelt. Siehe dieses Beispiel einer schnellen Kette, die mit dem Editor erstellt wurde:
Entsprechende Aiconfig JSON -Datei:
{
"name": "NYC Trip Planner",
"description": "Intrepid explorer with ChatGPT and AIConfig",
"schema_version": "latest",
"metadata": {
"models": {
"gpt-3.5-turbo": {
"model": "gpt-3.5-turbo",
"top_p": 1,
"temperature": 1
},
"gpt-4": {
"model": "gpt-4",
"max_tokens": 3000
}
},
"default_model": "gpt-3.5-turbo"
},
"prompts": [
{
"name": "get_activities",
"input": "Tell me 10 fun attractions to do in NYC."
},
{
"name": "gen_itinerary",
"input": "Generate an itinerary ordered by {{order_by}} for these activities: {{get_activities.output}}.",
"metadata": {
"model": "gpt-4",
"parameters": {
"order_by": "geographic location"
}
}
}
]
}
Sie können die Eingabeaufforderungen aus dem von Aiconfig Editor generierten Aiconfig in Ihrem Anwendungscode über Python- oder Knoten -SDK ausführen. Wir haben den Python SDK unten gezeigt.
# load your AIConfig
from aiconfig import AIConfigRuntime , InferenceOptions
import asyncio
config = AIConfigRuntime . load ( "travel.aiconfig.json" )
# setup streaming
inference_options = InferenceOptions ( stream = True )
# run a prompt
async def gen_nyc_itinerary ():
gen_itinerary_response = await config . run ( "gen_itinerary" , params = { "order_by" : "location" }, options = inference_options , run_with_dependencies = True )
asyncio . run ( gen_nyc_itinerary ())
# save the aiconfig to disk and serialize outputs from the model run
config . save ( 'updated_travel.aiconfig.json' , include_outputs = True )Sie können Ihre Aiconfig mit Aiconfig -Editor schnell iterieren und bearbeiten.
aiconfig edit --aiconfig-path=travel.aiconfig.json Ein neuer Registerkarte mit Aiconfig -Editor öffnet in Ihrem Standardbrowser unter http: // localhost: 8080/mit den Eingabeaufforderungen, der Verkettungslogik und Einstellungen von travel.aiconfig.json . Der Editor verdrängt alle 15 Sekunden automatisch und Sie können manuell mit der Schaltfläche Speichern speichern. Ihre Updates werden in der Aiconfig -Datei widerspiegelt.
Heutzutage ist der Anwendungscode eng mit den Gen AI-Einstellungen für die Anwendung verbunden-Eingabeaufforderungen, Parameter und modellspezifische Logik ist mit App-Code durcheinander.
Aiconfig hilft, die Komplexität zu entspannen, indem Eingabeaufforderungen, Modellparameter und modellspezifische Logik von Ihrer Anwendung getrennt werden.
config.run() aufaiconfig in einem Spielplatz, um schnell zu iterierenaiconfig - es ist das AI -Artefakt für Ihre Anwendung. aiconfig in Ihrem Anwendungscode. Aiconfig ist so konzipiert, dass es modellagnostisch und multi-modal ist, sodass Sie es so erweitern können, dass Sie mit jedem generativen KI-Modell arbeiten, einschließlich Text, Bild und Audio.aiconfig -Artefakt teilen. Aiconfig erleichtert es einfach, mit komplexen Schnellketten, verschiedenen Modellen und erweiterten Generativen -KI -Workflows zu arbeiten. Beginnen Sie mit diesen Rezepten und greifen Sie auf mehr In /cookbooks zu:
Aiconfig unterstützt die folgenden Modelle aus der Box. Siehe Beispiele:
Wenn Sie ein Modell verwenden müssen, das nicht außerhalb der Box bereitgestellt wird, können Sie einen ModelParser dafür implementieren. Siehe Anweisungen zur Unterstützung eines neuen Modells in Aiconfig.
Aiconfig ist so konzipiert, dass sie für Ihren Anwendungsfall angepasst und erweitert werden. Der Erweiterbarkeitshandbuch geht detaillierter aus.
Derzeit gibt es 3 zentrale Möglichkeiten, um Aiconfig zu erweitern:
aiconfig Wir entwickeln schnell Aiconfig! Wir begrüßen PR -Beiträge und Ideen für die Verbesserung des Projekts.
#aiconfig -Kanal an Derzeit veröffentlichen wir jede Woche neue verzeichnete Versionen der pypi und npm -Pakete. Hotfixes gehen aus, wenn es fertig ist.
