aiconfig
v1.1.32
AICONFIG - Le cadre open-source pour la construction d'applications d'IA de qualité de production
Documentation
AIConfig est un cadre qui facilite la création d'applications génératrices de l'IA pour la production. Il gère des invites d'IA génératives, des modèles et des paramètres de modèle comme des configurations de sœurs JSON qui peuvent être contrôlées, évaluées, surveillées et ouvertes dans un éditeur local pour un prototypage rapide.
Il vous permet de stocker et d'itérer un comportement d'IA génératif séparément de votre code d'application , offrant un flux de travail de développement d'IA rationalisé.
Plus de contexte ici.
Pour les utilisateurs de code vs:
Si vous n'utilisez pas de code vs, suivez ces étapes:
pip3 install python-aiconfigexport OPENAI_API_KEY='your-key'aiconfig editConsultez le tutoriel complet de démarrage.
# for python installation:
pip3 install python-aiconfig
# or using poetry: poetry add python-aiconfig
# for node.js installation:
npm install aiconfig
# or using yarn: yarn add aiconfigRemarque: Vous devez installer le package Python Aiconfig pour utiliser l'éditeur AIConfig pour créer et itérer sur les invites même si vous prévoyez d'utiliser le SDK du nœud pour interagir avec votre AIConfig dans votre code d'application.
Vous devez spécifier votre clé API OpenAI. Ouvrez votre terminal et ajoutez cette ligne, en remplaçant «votre-api-key-here» par votre clé API: export OPENAI_API_KEY='your-api-key-here' .
L'éditeur AIConfig vous aide à créer et à modifier visuellement les invites et les paramètres du modèle stockés sous forme de AIConfigs.
travel.aiconfig.json dans le code vs. Cela ouvrira automatiquement l'éditeur AIConfig dans VS Code.Avec l'éditeur AIConfig, vous pouvez créer et exécuter des invites avec un chaînage et des variables complexes. L'éditeur sauve automatiquement toutes les 15 secondes et vous pouvez enregistrer manuellement avec le bouton de sauvegarde. Vos mises à jour seront reflétées dans le fichier AIConfig JSON. Voir cet exemple d'une chaîne invite créée avec l'éditeur:
Fichier JSON AIConfig correspondant:
{
"name": "NYC Trip Planner",
"description": "Intrepid explorer with ChatGPT and AIConfig",
"schema_version": "latest",
"metadata": {
"models": {
"gpt-3.5-turbo": {
"model": "gpt-3.5-turbo",
"top_p": 1,
"temperature": 1
},
"gpt-4": {
"model": "gpt-4",
"max_tokens": 3000
}
},
"default_model": "gpt-3.5-turbo"
},
"prompts": [
{
"name": "get_activities",
"input": "Tell me 10 fun attractions to do in NYC."
},
{
"name": "gen_itinerary",
"input": "Generate an itinerary ordered by {{order_by}} for these activities: {{get_activities.output}}.",
"metadata": {
"model": "gpt-4",
"parameters": {
"order_by": "geographic location"
}
}
}
]
}
Vous pouvez exécuter les invites à partir de l'EIConfig généré à partir de l'éditeur AIConfig dans votre code d'application à l'aide de Python ou de Node SDK. Nous avons montré le SDK Python ci-dessous.
# load your AIConfig
from aiconfig import AIConfigRuntime , InferenceOptions
import asyncio
config = AIConfigRuntime . load ( "travel.aiconfig.json" )
# setup streaming
inference_options = InferenceOptions ( stream = True )
# run a prompt
async def gen_nyc_itinerary ():
gen_itinerary_response = await config . run ( "gen_itinerary" , params = { "order_by" : "location" }, options = inference_options , run_with_dependencies = True )
asyncio . run ( gen_nyc_itinerary ())
# save the aiconfig to disk and serialize outputs from the model run
config . save ( 'updated_travel.aiconfig.json' , include_outputs = True )Vous pouvez rapidement itérer et modifier votre AIConfig à l'aide de l'éditeur AIConfig.
aiconfig edit --aiconfig-path=travel.aiconfig.json Un nouvel onglet avec l'éditeur AIConfig s'ouvre dans votre navigateur par défaut sur http: // localhost: 8080 / avec les invites, la logique de chaînage et les paramètres de travel.aiconfig.json . L'éditeur sauve automatiquement toutes les 15 secondes et vous pouvez enregistrer manuellement avec le bouton de sauvegarde. Vos mises à jour seront reflétées dans le fichier AIConfig.
Aujourd'hui, le code d'application est étroitement couplé aux paramètres Gen AI pour l'application - les invites, les paramètres et la logique spécifique au modèle sont tous mélangés avec le code d'application.
AIConfig aide à détendre la complexité en séparant les invites, les paramètres du modèle et la logique spécifique au modèle de votre application.
config.run()aiconfig dans une aire de jeux pour itérer rapidementaiconfig - c'est l'artefact AI de votre application. aiconfig dans votre code d'application. AIConfig est conçu pour être agnostique et multimodal , vous pouvez donc l'étendre pour travailler avec n'importe quel modèle d'IA génératif, y compris le texte, l'image et l'audio.aiconfig . AIConfig facilite le travail avec des chaînes rapides complexes, divers modèles et des workflows AI génératifs avancés. Commencez par ces recettes et accédez à plus dans /cookbooks :
Aiconfig prend en charge les modèles suivants hors de la boîte. Voir des exemples:
Si vous avez besoin d'utiliser un modèle qui n'est pas fourni hors de la boîte, vous pouvez implémenter un ModelParser pour celui-ci. Voir les instructions sur la façon de soutenir un nouveau modèle dans AICONFIG.
Aiconfig est conçu pour être personnalisé et étendu pour votre cas d'utilisation. Le guide d'extensibilité va plus en détail.
Actuellement, il existe 3 moyens de base pour étendre Aiconfig:
aiconfig Nous développons rapidement Aiconfig! Nous accueillons les contributions et les idées des relations publiques sur la façon d'améliorer le projet.
#aiconfig Channel Nous publions actuellement de nouvelles versions taguées des packages pypi et npm chaque semaine. Les hotfixs sortent une fois terminé.
