News Vector Store

뉴스 벡터 스토어

목적:

대형 언어 모델은 번역, 요약, 추론, 분류, 문맥 정보 캡처, 언어의 의미 및 구문을 포착하지만 최근 GPT-3.5가 출현 한 후 Llama-2, Zephyer와 같은 오픈 소스 모델과 같은 오픈 소스 모델과 같은 인적 작업을 효과적으로 수행하도록 설계되었습니다. 코드, 특정 도메인 사용 사례에 대한 정보를 제공하십시오.

LLM을 효과적으로 사용하고 최신 정보를 제공하는이 문제에 대한 솔루션은 벡터 데이터베이스 및 프롬프트 엔지니어링 기술을 사용하여 검색된 생성 시스템을 구축하는 것입니다.

• 입력에 지식이나 컨텍스트를 삽입하십시오.
• LM에 출력에 컨텍스트를 통합하도록 요청하십시오.

이 기술은 환각을 줄이고 LLM에 질문에 효과적으로 답변 해야하는 맥락 (지식)을 제공합니다.

기술 및 전제 조건 :

• 파이썬 (> = 3.10, <3.12)
• 시
• NLP & LLM의 기본 지식
• git & windows에 명령을 내립니다
• 도커

프로젝트 설정 :

• 데이터 디렉토리에서 두 개의 디렉토리 (DB, News)를 만듭니다

mkdir data/db
mkdir data/news

• 쿼리와 데이터를 포함시키는 HuggingFace에서 디렉토리 (STS)를 작성하고 인코더 모델을 복제하는 경우 모델 사용 권장합니다.

mkdir sts
cd sts
git lfs install
git clone https://huggingface.co/sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2

• 비밀 키를 유지하려면 .env 파일을 만듭니다.
• 의존성을 설치하십시오

poetry install

• Qdrant DB API의 Docker 이미지를 실행하십시오

make qdrant

어떻게 작동합니까?

이 명령을 실행하는 가장 간단한 단계입니다

make run date= ' 2023-11-09 ' 

실험 :

• 데이터베이스를 쿼리하고 뉴스 검색을 검색하십시오.
• OpenAI API를 사용하고 LLM-News-Reporter 질문을 기반으로 뉴스를 추출하십시오.