aiconfig
v1.1.32
AICONFIG-A estrutura de código aberto para a construção de aplicativos de IA de produção de produção
Documentação
O AICONFIG é uma estrutura que facilita a criação de aplicativos generativos de IA para produção. Ele gerencia solicitações generativas de IA, modelos e modelos como configurações JSON-Serializable que podem ser controladas, avaliadas, monitoradas e abertas em um editor local para prototipagem rápida.
Ele permite armazenar e iterar em comportamento generativo de IA separadamente do seu código de aplicativo , oferecendo um fluxo de trabalho de desenvolvimento simplificado de IA.
Mais contexto aqui.
Para usuários de código vs:
Se você não estiver usando o código VS, siga estas etapas:
pip3 install python-aiconfigexport OPENAI_API_KEY='your-key'aiconfig editConfira o tutorial completo para começar.
# for python installation:
pip3 install python-aiconfig
# or using poetry: poetry add python-aiconfig
# for node.js installation:
npm install aiconfig
# or using yarn: yarn add aiconfigNOTA: Você precisa instalar o pacote Python Aiconfig para usar o AICONFIG Editor para criar e iterar em prompts, mesmo que você planeje usar o nó SDK para interagir com o seu AICONFIG no código do seu aplicativo.
Você deve especificar sua chave de API do OpenAI. Abra seu terminal e adicione esta linha, substituindo 'Your-Api-Key-Here' pela sua chave da API: export OPENAI_API_KEY='your-api-key-here' .
O AICONFIG Editor ajuda você a criar e editar visualmente os prompts e os parâmetros do modelo armazenados como Aiconfigs.
travel.aiconfig.json no código VS. Isso abrirá automaticamente o editor do AICONFIG no código VS.Com o editor do Aiconfig, você pode criar e executar instruções com encadeamento e variáveis complexos. O editor salva automático a cada 15 segundos e você pode salvar manualmente com o botão Salvar. Suas atualizações serão refletidas no arquivo AICONFIG JSON. Veja este exemplo de uma cadeia imediata criada com o editor:
Arquivo Aiconfig JSON correspondente:
{
"name": "NYC Trip Planner",
"description": "Intrepid explorer with ChatGPT and AIConfig",
"schema_version": "latest",
"metadata": {
"models": {
"gpt-3.5-turbo": {
"model": "gpt-3.5-turbo",
"top_p": 1,
"temperature": 1
},
"gpt-4": {
"model": "gpt-4",
"max_tokens": 3000
}
},
"default_model": "gpt-3.5-turbo"
},
"prompts": [
{
"name": "get_activities",
"input": "Tell me 10 fun attractions to do in NYC."
},
{
"name": "gen_itinerary",
"input": "Generate an itinerary ordered by {{order_by}} for these activities: {{get_activities.output}}.",
"metadata": {
"model": "gpt-4",
"parameters": {
"order_by": "geographic location"
}
}
}
]
}
Você pode executar os prompts do AICONFIG gerado a partir do editor AICONFIG no seu código de aplicativo usando o Python ou o Node SDK. Mostramos o Python SDK abaixo.
# load your AIConfig
from aiconfig import AIConfigRuntime , InferenceOptions
import asyncio
config = AIConfigRuntime . load ( "travel.aiconfig.json" )
# setup streaming
inference_options = InferenceOptions ( stream = True )
# run a prompt
async def gen_nyc_itinerary ():
gen_itinerary_response = await config . run ( "gen_itinerary" , params = { "order_by" : "location" }, options = inference_options , run_with_dependencies = True )
asyncio . run ( gen_nyc_itinerary ())
# save the aiconfig to disk and serialize outputs from the model run
config . save ( 'updated_travel.aiconfig.json' , include_outputs = True )Você pode iterar rapidamente e editar seu Aiconfig usando o AICONFIG Editor.
aiconfig edit --aiconfig-path=travel.aiconfig.json Uma nova guia com o AICONFIG Editor abre no seu navegador padrão em http: // localhost: 8080/com os prompts, lógica de encadeamento e configurações do travel.aiconfig.json . O editor salva automático a cada 15 segundos e você pode salvar manualmente com o botão Salvar. Suas atualizações serão refletidas no arquivo Aiconfig.
Hoje, o código do aplicativo é fortemente acoplado às configurações da GEN AI para o aplicativo-prompts, parâmetros e lógica específica do modelo está toda confundida com o código do aplicativo.
O AICONFIG ajuda a desenrolar a complexidade, separando os avisos, os parâmetros do modelo e a lógica específica do modelo do seu aplicativo.
config.run()aiconfig em um playground para iterar rapidamenteaiconfig - é o artefato da AI para o seu aplicativo. aiconfig no seu código de aplicativo. O AICONFIG foi projetado para ser modelo-agnóstico e multimodal , para que você possa estendê-lo para funcionar com qualquer modelo de IA generativo, incluindo texto, imagem e áudio.aiconfig . O AICONFIG facilita o trabalho com cadeias rápidas complexas, vários modelos e fluxos de trabalho generativos de IA avançados. Comece com essas receitas e acesse mais /cookbooks :
O Aiconfig suporta os seguintes modelos prontos para a caixa. Veja exemplos:
Se você precisar usar um modelo que não seja fornecido pronta para uso, poderá implementar um ModelParser para ele. Consulte as instruções sobre como apoiar um novo modelo no Aiconfig.
O AICONFIG foi projetado para ser personalizado e estendido para o seu caso de uso. O guia de extensibilidade entra em mais detalhes.
Atualmente, existem três maneiras principais de estender o Aiconfig:
aiconfig Estamos desenvolvendo rapidamente o Aiconfig! Congratulamo -nos com contribuições e idéias de relações públicas sobre como melhorar o projeto.
#aiconfig Channel Atualmente, lançamos novas versões marcadas dos pacotes pypi e npm toda semana. Os hotfixes saem quando concluídos.
