aiconfig
v1.1.32
AICONFIG- 생산 등급 AI 응용 프로그램 구축을위한 오픈 소스 프레임 워크
선적 서류 비치
AICONFIG는 생산을위한 생성 AI 애플리케이션을 쉽게 구축 할 수있는 프레임 워크입니다. 빠른 프로토 타이핑을 위해 로컬 편집기에서 버전을 제어, 평가, 모니터링 및 열 수있는 JSON-SERIALIZABLE 구성으로 생성 AI 프롬프트, 모델 및 모델 매개 변수를 관리합니다.
응용 프로그램 코드와 별도로 생성 AI 동작을 저장하고 반복 할 수 있으므로 간소화 된 AI 개발 워크 플로우를 제공합니다.
더 많은 맥락.
대 코드 사용자의 경우 :
대 코드를 사용하지 않는 경우 다음 단계를 따르십시오.
pip3 install python-aiconfigexport OPENAI_API_KEY='your-key'aiconfig edit전체 시작 튜토리얼을 확인하십시오.
# for python installation:
pip3 install python-aiconfig
# or using poetry: poetry add python-aiconfig
# for node.js installation:
npm install aiconfig
# or using yarn: yarn add aiconfig참고 : AICONFIG 편집기를 사용하여 Node SDK를 사용하여 애플리케이션 코드에서 AICONFIG와 상호 작용하려는 경우에도 Python AICONFIG 패키지를 설치해야합니다.
OpenAI API 키를 지정해야합니다. 터미널을 열고이 줄을 추가하여 'API-KEY-HERE'를 API 키로 대체하십시오. export OPENAI_API_KEY='your-api-key-here' .
AICONFIG 편집기를 사용하면 AICONFIG로 저장된 프롬프트 및 모델 매개 변수를 시각적으로 생성하고 편집 할 수 있습니다.
travel.aiconfig.json 파일을 엽니 다. 이것은 VS 코드에서 AICONFIG 편집기를 자동으로 열 것입니다.AICONFIG 편집기를 사용하면 복잡한 체인 및 변수로 프롬프트를 만들고 실행할 수 있습니다. 편집기는 15 초마다 자동 절약되며 저장 버튼으로 수동으로 저장할 수 있습니다. 업데이트는 AICONFIG JSON 파일에 반영됩니다. 편집기와 함께 생성 된 프롬프트 체인 의이 예를 참조하십시오.
해당 AICONFIG JSON 파일 :
{
"name": "NYC Trip Planner",
"description": "Intrepid explorer with ChatGPT and AIConfig",
"schema_version": "latest",
"metadata": {
"models": {
"gpt-3.5-turbo": {
"model": "gpt-3.5-turbo",
"top_p": 1,
"temperature": 1
},
"gpt-4": {
"model": "gpt-4",
"max_tokens": 3000
}
},
"default_model": "gpt-3.5-turbo"
},
"prompts": [
{
"name": "get_activities",
"input": "Tell me 10 fun attractions to do in NYC."
},
{
"name": "gen_itinerary",
"input": "Generate an itinerary ordered by {{order_by}} for these activities: {{get_activities.output}}.",
"metadata": {
"model": "gpt-4",
"parameters": {
"order_by": "geographic location"
}
}
}
]
}
Python 또는 Node SDK를 사용하여 응용 프로그램 코드의 AICONFIG 편집기에서 생성 된 AICONFIG에서 프롬프트를 실행할 수 있습니다. 아래의 Python SDK를 보여주었습니다.
# load your AIConfig
from aiconfig import AIConfigRuntime , InferenceOptions
import asyncio
config = AIConfigRuntime . load ( "travel.aiconfig.json" )
# setup streaming
inference_options = InferenceOptions ( stream = True )
# run a prompt
async def gen_nyc_itinerary ():
gen_itinerary_response = await config . run ( "gen_itinerary" , params = { "order_by" : "location" }, options = inference_options , run_with_dependencies = True )
asyncio . run ( gen_nyc_itinerary ())
# save the aiconfig to disk and serialize outputs from the model run
config . save ( 'updated_travel.aiconfig.json' , include_outputs = True )AICONFIG 편집기를 사용하여 AICONFIG를 신속하게 반복하고 편집 할 수 있습니다.
aiconfig edit --aiconfig-path=travel.aiconfig.json 실행하십시오 http : // localhost : 8080/the Prompts, Chaining Logic 및 travel.aiconfig.json 의 설정을 사용하여 AICONFIG 편집기가 포함 된 새 탭이 열립니다. 편집기는 15 초마다 자동 절약되며 저장 버튼으로 수동으로 저장할 수 있습니다. 업데이트는 AICONFIG 파일에 반영됩니다.
오늘날 애플리케이션 코드는 응용 프로그램의 Gen AI 설정과 밀접하게 결합되어 있습니다. 프롬프트, 매개 변수 및 모델 별 논리가 모두 앱 코드와 함께 혼란스러워집니다.
AICONFIG는 응용 프로그램에서 프롬프트, 모델 매개 변수 및 모델 별 논리를 분리하여 복잡성을 풀어줍니다.
config.run()aiconfig 열어 빠르게 반복하십시오aiconfig - 응용 프로그램의 AI 아티팩트입니다. aiconfig 사용하는 Python & Node SDK. AICONFIG는 모델 비석 및 다중 모달 로 설계되었으므로 텍스트, 이미지 및 오디오를 포함한 생성 AI 모델과 함께 작동하도록 확장 할 수 있습니다.aiconfig 아티팩트를 공유하여 함께 협력 할 수 있습니다. AICONFIG를 사용하면 복잡한 프롬프트 체인, 다양한 모델 및 고급 생성 AI 워크 플로에서 쉽게 작업 할 수 있습니다. 이 레시피부터 시작하여 더 많은 /cookbooks 에 액세스하십시오.
AICONFIG는 상자에서 다음 모델을 지원합니다. 예를 참조하십시오 :
상자에서 제공되지 않은 모델을 사용해야하는 경우 ModelParser 구현할 수 있습니다. AICONFIG에서 새로운 모델을 지원하는 방법에 대한 지침을 참조하십시오.
AICONFIG는 사용 사례에 맞게 사용자 정의 및 확장되도록 설계되었습니다. Extensibility Guide가 더 자세히 설명합니다.
현재 AICONFIG를 확장하는 3 가지 핵심 방법이 있습니다.
aiconfig 에 사용자 정의 필드를 저장합니다 우리는 빠르게 Aiconfig를 개발하고 있습니다! 우리는 프로젝트를 개선하는 방법에 대한 PR 기여와 아이디어를 환영합니다.
#aiconfig 채널에서 대화에 참여하십시오 우리는 현재 매주 pypi 및 npm 패키지의 새로운 태그 버전을 출시합니다. 완료되면 핫픽스가 나옵니다.
