aiconfig
v1.1.32
AICONFIG-рамка с открытым исходным кодом для создания AI-применений производства.
Документация
Aiconfig - это структура, которая позволяет легко создавать генеративные приложения для ИИ для производства. Он управляет генеративными подсказками ИИ, моделями и параметрами моделей в виде конфигурации, серии, которые можно контролировать, оценивать, контролировать, контролируемые и открытые версии для быстрого прототипирования.
Это позволяет хранить и итерацию в поведении генеративного искусственного интеллекта отдельно от кода приложения , предлагая оптимизированный рабочий процесс разработки искусственного интеллекта.
Больше контекста здесь.
Для пользователей кода VS:
Если вы не используете код VS, выполните следующие действия:
pip3 install python-aiconfigexport OPENAI_API_KEY='your-key'aiconfig editПроверьте учебник по полному началу.
# for python installation:
pip3 install python-aiconfig
# or using poetry: poetry add python-aiconfig
# for node.js installation:
npm install aiconfig
# or using yarn: yarn add aiconfigПримечание. Вам необходимо установить пакет Python Aiconfig для использования редактора Aiconfig для создания и итерации по подсказкам, даже если вы планируете использовать Node SDK для взаимодействия с вашим AICONFIG в коде вашего приложения.
Вы должны указать свой ключ API OpenAI. Откройте свой терминал и добавьте эту строку, заменив «your-api-key-here» на ключ API: export OPENAI_API_KEY='your-api-key-here' .
Aiconfig Editor помогает вам визуально создавать и редактировать подсказки и параметры модели, хранящиеся в виде Aiconfigs.
travel.aiconfig.json в коде VS. Это автоматически откроет редактор AICONFIG в VS -коде.С редактором Aiconfig вы можете создавать и запускать подсказки со сложными цепочками и переменными. Редактор автоматически проходит каждые 15 секунд, и вы можете вручную сохранить кнопкой сохранения. Ваши обновления будут отражены в файле Aiconfig JSON. Смотрите этот пример цепочки быстрого приглашения, созданного с редактором:
Соответствующий файл aiconfig json:
{
"name": "NYC Trip Planner",
"description": "Intrepid explorer with ChatGPT and AIConfig",
"schema_version": "latest",
"metadata": {
"models": {
"gpt-3.5-turbo": {
"model": "gpt-3.5-turbo",
"top_p": 1,
"temperature": 1
},
"gpt-4": {
"model": "gpt-4",
"max_tokens": 3000
}
},
"default_model": "gpt-3.5-turbo"
},
"prompts": [
{
"name": "get_activities",
"input": "Tell me 10 fun attractions to do in NYC."
},
{
"name": "gen_itinerary",
"input": "Generate an itinerary ordered by {{order_by}} for these activities: {{get_activities.output}}.",
"metadata": {
"model": "gpt-4",
"parameters": {
"order_by": "geographic location"
}
}
}
]
}
Вы можете запустить подсказки из Aiconfig, сгенерированного от редактора Aiconfig в коде вашего приложения, с помощью Python или Node SDK. Мы показали Python SDK ниже.
# load your AIConfig
from aiconfig import AIConfigRuntime , InferenceOptions
import asyncio
config = AIConfigRuntime . load ( "travel.aiconfig.json" )
# setup streaming
inference_options = InferenceOptions ( stream = True )
# run a prompt
async def gen_nyc_itinerary ():
gen_itinerary_response = await config . run ( "gen_itinerary" , params = { "order_by" : "location" }, options = inference_options , run_with_dependencies = True )
asyncio . run ( gen_nyc_itinerary ())
# save the aiconfig to disk and serialize outputs from the model run
config . save ( 'updated_travel.aiconfig.json' , include_outputs = True )Вы можете быстро повторить и отредактировать свой Aiconfig с помощью Aiconfig Editor.
aiconfig edit --aiconfig-path=travel.aiconfig.json Новая вкладка с редактором Aiconfig открывается в вашем браузере по умолчанию по адресу http: // localhost: 8080/с подсказками, логикой цепочки и настройками от travel.aiconfig.json . Редактор автоматически проходит каждые 15 секунд, и вы можете вручную сохранить кнопкой сохранения. Ваши обновления будут отражены в файле Aiconfig.
Сегодня код приложения тесно связан с настройками Gen AI для приложения-подсказки, параметры и логика для специфичной для модели, все с кодом приложения.
Aiconfig помогает раскрутить сложность, отделяя подсказки, параметры модели и специфичную для модели логику от вашего приложения.
config.run()aiconfig на детской площадке, чтобы быстро обратитьсяaiconfig - это артефакт ИИ для вашего приложения. aiconfig в вашем коде приложения. Aiconfig предназначен для того, чтобы быть модельным агроностическим и мультимодальным , поэтому вы можете расширить его на работу с любой генеративной моделью ИИ, включая текст, изображение и аудио.aiconfig . Aiconfig позволяет легко работать со сложными оперативными цепочками, различными моделями и усовершенствованными генеративными рабочими процессами искусственного интеллекта. Начните с этих рецептов и больше доступа в /cookbooks :
Aiconfig поддерживает следующие модели из коробки. Смотрите примеры:
Если вам нужно использовать модель, которая не предоставлена из коробки, вы можете реализовать для нее ModelParser . См. Инструкции о том, как поддержать новую модель в Aiconfig.
Aiconfig предназначен для индивидуального и расширенного для вашего варианта использования. Руководство по расширению входит в более подробную информацию.
В настоящее время существует 3 основных способа расширения Aiconfig:
aiconfig Мы быстро развиваемся Aiconfig! Мы приветствуем вклад PR и идеи о том, как улучшить проект.
#aiconfig Channel В настоящее время мы выпускаем новые версии пакетов pypi и npm каждую неделю. Горячие сжигания выходят после завершения.
