ClassGPT

Classgpt

내 강의 슬라이드에 대한 chatgpt

Llamaindex와 Langchain으로 구동되는 간소로 제작되었습니다.

OpenAi의 최신 chatgpt API를 사용합니다.

anthensgpt에서 영감을 얻었습니다

앱 데모

데모 .mp4

이것이 어떻게 작동하는지

1. PYPDF와 PDF를 구문 분석합니다
2. llamaindex의 GPTSimpleVectorIndex 사용한 색인 구조
   • text-embedding-ada-002 모델은 임베딩을 만드는 데 사용됩니다
   • 자세한 내용은 Vector Store Index 페이지를 참조하십시오
   • 다음은 샘플 인덱스입니다
3. 인덱스 및 파일은 S3에 저장됩니다
4. 인덱스를 쿼리하십시오
   • 최신 Chatgpt 모델 gpt-3.5-turbo 사용합니다

용법

구성 및 비밀

1. AWS 구성 (QuickStart)

    aws configure

2. 고유 한 이름의 S3 버킷을 만듭니다

3. Codebase에서 버킷 이름을 변경하십시오 ( bucket_name = "classgpt" 찾은 모든 것에 대해 찾으십시오.

4. [.env.local.example]을 .env 로 이름을 바꾸고 OpenAI 자격 증명을 추가하십시오

장소 상에서

1. 파이썬 env를 만듭니다

    conda create -n classgpt python=3.9
    conda activate classgpt

2. 종속성을 설치하십시오

    pip install -r requirements.txt

3. 간단한 앱을 실행하십시오

    cd app/
    streamlit run app/01_❓_Ask.py

도커

대안, Docker를 사용할 수 있습니다

    docker compose up

그런 다음 새 탭을 열고 http : // localhost : 8501/로 이동합니다.

TODO

• 앱의 로컬 모드 (S3 없음)
  • 로컬 및 S3 모드를 전환하려면 글로벌 변수 use_s3
• 클라우드를 간소화하기 위해 앱을 배포하십시오
  • OpenAI 키를위한 입력 상자가 있습니다
  • Pyarrow local fs를 사용하여 파일을 저장합니다
• 새로운 Langchain 업데이트의 업데이트 코드
• 사용자 정의 프롬프트 및 조정 설정
  • 모델 매개 변수 조정을위한 설정 페이지를 작성하고 사용자 정의 프롬프트 예제를 제공합니다.
• 여러 파일에서 쿼리 할 수있는 기능을 추가하십시오
  • 여러 강의 지수와 그 모든 강의 지수를 구성하십시오.
  • 기존의 모든 인덱스를 살펴보고 만들어지지 않은 색인을 만들고 함께 구성하십시오.
  • 참조
    • 합성 가능성 - llamaindex 문서
    • gpt_index/composableIndices.ipynb
    • 여러 문서를 통해 복잡한 쿼리를 테스트합니다

FAQ

토큰

토큰은 단어의 조각으로 생각할 수 있습니다. API가 프롬프트를 처리하기 전에 입력은 토큰으로 나뉩니다. 이 토큰은 단어가 시작하거나 끝나는 곳에서 정확히 절단되지 않습니다. 토큰에는 후행 공간과 하위 단어가 포함될 수 있습니다. 다음은 길이 측면에서 토큰을 이해하는 데 유용한 경험 규칙입니다.

• 1 토큰 ~ = 4 숯으로 영어
• 1 토큰 ~ = ¾ 단어
• 100 토큰 ~ = 75 단어
• 1-2 문장 ~ = 30 토큰
• 1 단락 ~ = 100 토큰
• 1,500 단어 ~ = 2048 토큰

OpenAi 토큰 화기 도구를 사용해보십시오

원천

임베딩

임베딩은 부동 소수점 번호의 벡터 (목록)입니다. 두 벡터 사이의 거리는 관련성을 측정합니다. 작은 거리는 높은 관련성을 암시하고 먼 거리는 낮은 관련성을 암시합니다.

text-embedding-ada-002 의 경우 비용은 $ 0.0004 / 1k 토큰 또는 3000 페이지 / 달러입니다.

• 임베딩 - OpenAi API
• 단어와 문장 임베딩은 무엇입니까?

모델

gpt-3.5-turbo 모델 (ChatGptapi) 비용의 경우 비용은 $0.002 / 1K tokens 입니다.

text-davinci-003 모델의 경우 비용은 $0.02 / 1K tokens 입니다

• 채팅 완료 - OpenAi API

참조

간소

• St.File_Uploader의 업로드 한도를 늘리십시오
• St.Cache_Resource- 간소화 문서
• 세션 상태
• Hayabhay/Whisper-UI : Openai의 Whisper를위한 leamlit ui

Deplyoment

• Streamlit Deployment Guide (Wiki) - 배포 - 간소화
• 간단한 응용 프로그램을 AWS에 배포하는 방법은 무엇입니까? PART-3

llamaindex

• llamaindex 사용 패턴
• 저축 지수

데이터로드

• PDF 로더
• Llama-hub github repo
• 문서 클래스
• PDFREADER 클래스

멀티 모달

• llama_index/multimodal.ipynb 메인

chatgpt

• gpt_index/simpleindexdemo-chatgpt.ipynb

랭케인

• gpt_index/langchaindemo.ipynb
• Openaichat

boto3

• boto3 file_upload 파일이 있는지 확인하십시오
• BOTO 3 : 리소스 대 클라이언트
• S3 버킷으로 JSON을 작성합니다

도커 물건

• Amazon Web Services- Docker 컨테이너에 AWS 자격 증명을 전달하는 가장 좋은 방법은 무엇입니까?
• Docker-Compose Up Up Up Up Up Up Up Offore : 오류 : Rust Compiler를 찾을 수 없습니다 · 문제 #572 · Acheong08/Chatgpt
• Linux -Docker에 Rust Toolchain을 설치할 때 Bash source 명령이 작동하지 않습니다.
• 소프트웨어 설치 - "계속 하시겠습니까 [Y/N]"없이 APT로 패키지를 설치하는 방법. 즉각적인? - 우분투에게 물어보세요
• Docker 컨테이너 내부에서 Sudo를 사용하는 방법은 무엇입니까?