ContextQA

LLM 및 벡터 데이터베이스의 전력을 활용하여 데이터와 채팅

---

ContextQa는 즉시 사용 가능한 LLM 기반 응용 프로그램을 제공하는 최신 유틸리티입니다. Fastapi, Langchain 및 Hugging Face와 같은 거인 위에 지어졌습니다.

주요 기능은 다음과 같습니다.

• 인터넷 액세스를 통한 지식 확장을 지원하는 정기적 인 채팅
• 관련 소스와 대화식 QA
• 스트리밍 응답
• QA 세션에 사용 된 데이터 소스 수집
• 데이터 소스 관리
• LLM 설정 : 제공자, 모델, 온도 등과 같은 매개 변수 구성 현재 지원되는 공급 업체는 OpenAI 및 Google 입니다.
• 벡터 DB 설정. 엔진, 청크 크기, 청크 오버랩 등과 같은 매개 변수를 조정합니다. 현재 지원되는 엔진은 ChromADB 및 Pinecone 입니다.
• 기타 설정 : 임베디드 또는 외부 LLM 메모리 ( REDIS ), 미디어 디렉토리, 데이터베이스 자격 증명 등을 선택하십시오.

설치

pip install contextqa

용법

설치시 ContextQa는 CLI 도구를 제공합니다

contextqa init

다음 명령을 실행하여 사용 가능한 매개 변수를 확인하십시오.

contextqa init --help

예

실행하십시오

$ contextqa init

2024-08-28 01:00:39,586 - INFO - Using SQLite
2024-08-28 01:00:47,850 - INFO - Use pytorch device_name: cpu
2024-08-28 01:00:47,850 - INFO - Load pretrained SentenceTransformer: sentence-transformers/all-mpnet-base-v2
INFO:     Started server process [20658]
INFO:     Waiting for application startup.
2024-08-28 01:00:47,850 - INFO - Running initial migrations...
2024-08-28 01:00:47,853 - INFO - Context impl SQLiteImpl.
2024-08-28 01:00:47,855 - INFO - Will assume non-transactional DDL.
2024-08-28 01:00:47,860 - INFO - Running upgrade  - > 0bb7d192c063, Initial migration
2024-08-28 01:00:47,862 - INFO - Running upgrade 0bb7d192c063 - > b7d862d599fe, Support for store types and related indexes
2024-08-28 01:00:47,864 - INFO - Running upgrade b7d862d599fe - > 3058bf204a05, unique index name
INFO:     Application startup complete.
INFO:     Uvicorn running on http://localhost:8080 (Press CTRL+C to quit)

확인하십시오

http : // localhost : 8080에서 브라우저를 엽니 다. 초기 구성 스테퍼가 표시되어 초기 구성을 안내합니다.

또는 주요 컨텍스트 QA보기 - 초기 구성이 이미 설정된 경우

지침

자세한 사용 지침은 사용 지침을 참조하십시오.

기여

ContextQa 에 대한 기여를 환영합니다! 시작하려면 기여 방법에 대한 가이드 라인은 Contributing.md 파일을 참조하십시오. 귀하의 의견과 기여는 프로젝트를 개선하고 향상시키는 데 도움이됩니다. 기여에 관심을 가져 주셔서 감사합니다!