chat_with_your_docs 다운로드 - chat_with_your

chat_with_your_docs

기타 소스코드

1.0.0

다운로드

제목	이모티콘	색상	Colorto	SDK	sdk_version	app_file	고정	특허
문서와 채팅하십시오		파란색	회색	Gradio	4.41.0	app.py	거짓	MIT

문서와 채팅하십시오

소개

ChatwithYourdocs 채팅 앱은 PDF, 웹 페이지 및 YouTube 비디오와 같은 여러 문서 형식으로 채팅 할 수있는 파이썬 응용 프로그램입니다. 자연어를 사용하여 PDF에 대한 질문을 할 수 있으며, 응용 프로그램은 문서의 내용에 따라 관련 응답을 제공합니다. 이 앱은 언어 모델을 사용하여 쿼리에 대한 정확한 답변을 생성합니다. 앱은로드 된 문서와 관련된 질문에만 응답합니다.

작동 방식

chatwithyourdocs 채팅 앱 다이어그램

응용 프로그램은 다음 단계에 따라 질문에 대한 답변을 제공합니다.

DOC로드 : 앱은 여러 문서 유형을 읽고 텍스트 내용을 추출합니다.
텍스트 청크 : 추출 된 텍스트는 효과적으로 처리 할 수있는 작은 청크로 나뉩니다.
언어 모델 : 응용 프로그램은 언어 모델을 사용하여 텍스트 청크의 벡터 표현 (임베딩)을 생성합니다.
유사성 일치 : 질문을 할 때 앱은 텍스트 청크와 비교하고 가장 의미있는 가장 유사한 것을 식별합니다.
응답 생성 : 선택된 청크는 언어 모델로 전달되며, 이는 문서의 관련 내용을 기반으로 응답을 생성합니다.

종속성 및 설치

Docs 앱으로 채팅을 설치하려면 다음을 수행하십시오.

Ollama Library를 다운로드하십시오

 curl https://ollama.ai/install.sh | sh

우리가 사용할 채팅 모델을 당기십시오.이 경우 llama2, mistral 및 gemma를 사용할 것입니다.
```
 ollama pull llama2
```
```
 ollama pull mistral
```
```
 ollama pull gemma
```
Python 3.9로 새로운 환경을 만들고 활성화하십시오.이 경우 Conda를 사용할 것입니다.
```
 conda create -n cwd python=3.9
```
```
 conda activate cwd
```

저장소를 로컬 컴퓨터로 복제하십시오.

 git clone https://github.com/jorge-armando-navarro-flores/chat_with_your_docs.git

 cd chat_with_your_docs

다음 명령을 실행하여 필요한 종속성을 설치하십시오.
```
 pip install -r requirements.txt
```
YouTube 동영상의 FFMPEG 설치 :
```
 sudo apt-get install ffmpeg
```

용법

Docs 앱과 채팅을 사용하려면 다음을 수행하십시오.

Streamlit CLI를 사용하여 main.py 파일을 실행하십시오. 다음 명령을 실행하십시오.
```
 python3 main.py
```
응용 프로그램은 기본 웹 브라우저에서 시작하여 사용자 인터페이스를 표시합니다.

건축학

chatwithyourdocs 인터페이스

수업 :

LLM : 이 추상 클래스는 다른 LLM 구현에 대한 청사진 역할을합니다. 특정 LLM 제공 업체 (Ollama, Openai 및 Hugging Face)를 처리하는 OllamaModel , OpenAIModel 및 HFModel 과 같은 서브 클래스가 있습니다.
문서 : 이 클래스는 PDFS, 웹 페이지 및 YouTube 비디오와 같은 다양한 소스의 문서로드를 관리합니다.
VectorStore : 이 클래스는 효율적인 검색을 위해 LLM 임베딩을 사용하여 문서의 벡터 표현을 만듭니다.
체인 : 이 클래스는 챗봇의 처리 파이프 라인을 정의합니다. 기본 질문 답변에 대한 간단한 체인 또는 대화 기록을 기반으로 문서를 검색하는 검색 체인 일 수 있습니다.
챗봇 : 이 클래스는 사용자 상호 작용을 처리하고 대화 기록을 유지하며 적절한 체인 메소드를 호출하여 응답을 생성합니다.
ChatbotController : 이 클래스는 사용자의 기본 인터페이스입니다. LLM 모델, 문서 소스 및 검색 옵션을 설정할 수 있습니다. 또한 사용자 쿼리를 처리하고 챗봇 인스턴스와 상호 작용합니다.

기능 :

설정 :
- 사용자는 LLM 제공 업체 (Ollama, OpenAi 또는 HuggingFace)를 선택하고 드롭 다운 메뉴에서 모델을 선택합니다. 선택적으로 특정 제공자에게는 API 키가 필요할 수 있습니다.
- 사용자는 검색 작업을 위해 문서 (PDF, 웹 페이지 URL 또는 YouTube 비디오 URL)를 추가하도록 선택할 수 있습니다.
처리 :
- 선택한 LLM 및 문서 (있는 경우)를 기반으로 컨트롤러는 처리 체인을 구성합니다.
- 간단한 체인은 문서 검색없이 기본 질문에 응답하는 데 사용됩니다.
- 검색 체인에는 다음이 포함됩니다.
  - LLM의 임베딩을 사용하여 문서의 벡터 표현 생성.
  - 대화 기록을 기반으로 검색 쿼리를 생성하라는 프롬프트 정의.
  - 생성 된 쿼리를 기반으로 관련 문서를 검색합니다.
  - 검색된 문서를 사용하여 사용자의 질문에 답하십시오.
상호 작용:
- 사용자는 채팅 인터페이스에 질문을 입력합니다.
- 컨트롤러는 챗봇의 predict 방법을 호출하여 사용자의 쿼리 및 대화 기록을 전달합니다 (검색이 활성화 된 경우).
- 챗봇은 선택한 체인 구성에 따라 적절한 응답을 검색합니다.