axflow

Axflow는 강력한 자연어 구동 응용 프로그램을 구축하기위한 모듈 모음입니다. 이러한 모듈은 점진적으로 채택 될 수 있으므로 모듈 식 및 확장 가능한 솔루션을 제공 할 수 있습니다. 함께 사용하여 AI 애플리케이션을 개발하기위한 엔드 투 엔드 프레임 워크를 형성합니다.

모듈

• @axflow/models- 강력한 자연어 응용을 구축하기위한 제로 의존성, 모듈 식 SDK. AI 응용 프로그램을 산들 바람으로 만드는 반응 후크 및 스트리밍 유틸리티가 포함되어 있습니다.

• AXGEN - 데이터를 큰 언어 모델에 연결하기위한 프레임 워크

• Axeval - LLM 출력 품질 평가를위한 프레임 워크

위 모듈 외에도 다음 모듈을 작업하고 있습니다.

• 추출 : 효율적인 데이터 처리, 특히 임의의 소스에서 문서를로드, 변환 및 청킹하기위한 라이브러리. 벡터 검색을 위해 데이터를로드 및 전처리 해야하는 응용 프로그램에 가장 유용합니다.

• 서빙 : LLM 모델 (OSS 또는 기타)을 실행하기위한 서빙 프레임 워크. 또한 사용자 조절, 분석 및 로깅을위한 미들웨어 옵션을 제공합니다.

• FINETUNE : 미세 조정 모델에 중점을 둔 라이브러리

선적 서류 비치

목표

Axflow는 LLMS로 작업하는 복잡한 패러다임을 관리 가능하고 직관적 인 구성 요소로 해체하고자합니다. 우리의 도서관은 코드 우선 접근 방식을 취하여 개발자의 유연성과 제어의 중요성을 강조합니다. 기본 프레임 워크로서 Axflow는 개발자가 더 높은 수준의 TypeScript AI 기능 및 제품을 원활하게 구축 할 수 있도록합니다.

예

다음은 짧은 비디오 연습으로 첫 번째 모듈 인 AXGEN이 할 수있는 일을 보여주는 오픈 소스 UI 예입니다.

특허

MIT