aiconfig
v1.1.32
AICONFIG-El marco de código abierto para la creación de aplicaciones de IA de grado de producción
Documentación
Aiconfig es un marco que facilita la creación de aplicaciones generativas de IA para la producción. Gestiona las indicaciones generativas de IA, los modelos y los parámetros del modelo como configuraciones JSON-Serializables que pueden controlarse, evaluarse, evaluarse y abiertos en un editor local para obtener prototipos rápidos.
Le permite almacenar e iterar en el comportamiento generativo de IA por separado de su código de aplicación , ofreciendo un flujo de trabajo de desarrollo de IA optimizado.
Más contexto aquí.
Para usuarios de código VS:
Si no está utilizando el código VS, siga estos pasos:
pip3 install python-aiconfigexport OPENAI_API_KEY='your-key'aiconfig editEcha un vistazo al tutorial completo de inicio.
# for python installation:
pip3 install python-aiconfig
# or using poetry: poetry add python-aiconfig
# for node.js installation:
npm install aiconfig
# or using yarn: yarn add aiconfigNota: Debe instalar el paquete Python Aiconfig para usar el editor AiConfig para crear e iterar en las indicaciones incluso si planea usar el nodo SDK para interactuar con su Aiconfig en su código de aplicación.
Debe especificar su tecla API OpenAI. Abra su terminal y agregue esta línea, reemplazando 'Your-Api-Key-Here' con su tecla API: export OPENAI_API_KEY='your-api-key-here' .
El editor AICONFIG lo ayuda a crear y editar visualmente las indicaciones y parámetros del modelo almacenados como Aiconfigs.
travel.aiconfig.json en VS Code. Esto abrirá automáticamente el editor AICONFIG en VS Code.Con AiconFig Editor, puede crear y ejecutar indicaciones con complejos encadenamiento y variables. El editor se ahorra automáticamente cada 15 segundos y puede guardar manualmente con el botón Guardar. Sus actualizaciones se reflejarán en el archivo AICONFIG JSON. Vea este ejemplo de una cadena rápida creada con el editor:
Archivo AiconFig JSON correspondiente:
{
"name": "NYC Trip Planner",
"description": "Intrepid explorer with ChatGPT and AIConfig",
"schema_version": "latest",
"metadata": {
"models": {
"gpt-3.5-turbo": {
"model": "gpt-3.5-turbo",
"top_p": 1,
"temperature": 1
},
"gpt-4": {
"model": "gpt-4",
"max_tokens": 3000
}
},
"default_model": "gpt-3.5-turbo"
},
"prompts": [
{
"name": "get_activities",
"input": "Tell me 10 fun attractions to do in NYC."
},
{
"name": "gen_itinerary",
"input": "Generate an itinerary ordered by {{order_by}} for these activities: {{get_activities.output}}.",
"metadata": {
"model": "gpt-4",
"parameters": {
"order_by": "geographic location"
}
}
}
]
}
Puede ejecutar las indicaciones desde el AICONFIG generado por el editor AICONFIG en su código de aplicación utilizando Python o Node SDK. Hemos mostrado el SDK de Python a continuación.
# load your AIConfig
from aiconfig import AIConfigRuntime , InferenceOptions
import asyncio
config = AIConfigRuntime . load ( "travel.aiconfig.json" )
# setup streaming
inference_options = InferenceOptions ( stream = True )
# run a prompt
async def gen_nyc_itinerary ():
gen_itinerary_response = await config . run ( "gen_itinerary" , params = { "order_by" : "location" }, options = inference_options , run_with_dependencies = True )
asyncio . run ( gen_nyc_itinerary ())
# save the aiconfig to disk and serialize outputs from the model run
config . save ( 'updated_travel.aiconfig.json' , include_outputs = True )Puede iterar rápidamente y editar su Aiconfig usando el editor AiConfig.
aiconfig edit --aiconfig-path=travel.aiconfig.json Una nueva pestaña con AICONFIG Editor abre en su navegador predeterminado en http: // localhost: 8080/con las indicaciones, la lógica de encadenamiento y la configuración de travel.aiconfig.json . El editor se ahorra automáticamente cada 15 segundos y puede guardar manualmente con el botón Guardar. Sus actualizaciones se reflejarán en el archivo AICONFIG.
Hoy, el código de aplicación está estrechamente combinado con la configuración de Gen AI para la aplicación: las indicaciones, los parámetros y la lógica específica del modelo se enfrentan con el código de la aplicación.
AICONFIG ayuda a relajar la complejidad al separar las indicaciones, los parámetros del modelo y la lógica específica del modelo de su aplicación.
config.run()aiconfig en un patio de recreo para iterar rápidamenteaiconfig : es el artefacto de IA para su aplicación. aiconfig en su código de aplicación. Aiconfig está diseñado para ser modelo-agnóstico y multimodal , por lo que puede extenderlo para trabajar con cualquier modelo de IA generativo, incluidos texto, imagen y audio.aiconfig . Aiconfig facilita el trabajo con cadenas rápidas complejas, varios modelos y flujos de trabajo de IA generativos avanzados. Comience con estas recetas y acceda a más /cookbooks :
Aiconfig admite los siguientes modelos fuera de la caja. Ver ejemplos:
Si necesita usar un modelo que no se proporcione fuera de la caja, puede implementar un ModelParser para ello. Vea las instrucciones sobre cómo admitir un nuevo modelo en Aiconfig.
Aiconfig está diseñado para ser personalizado y extendido para su caso de uso. La guía de extensibilidad entra en más detalles.
Actualmente, hay 3 formas principales de extender AiConfig:
aiconfig ¡Estamos desarrollando rápidamente Aiconfig! Agradecemos las contribuciones e ideas de relaciones públicas sobre cómo mejorar el proyecto.
#aiconfig Channel Actualmente lanzamos nuevas versiones etiquetadas de los paquetes pypi y npm cada semana. Las hotías salen cuando se completan.
