Basic-Qdrant-upload and-search-Amexample
Qdrant 벡터 데이터베이스를 업로드하고 검색하는 방법에 대한 코드 예제
이 코드가 유용하다고 생각되면 Main AI Assistant 프로젝트를 확인하십시오 : https://github.com/libraryofcelsus/aetherius_ai_assistant
이와 같은 더 많은 코드 튜토리얼을 원한다면 github 및 youtube에서 나를 팔로우하십시오 : https://www.youtube.com/@libraryofcelsus
(채널은 아직 출시되지 않았고,이 쓰여진 여러 스크립트가 있지만 여전히 비디오 제작 형식으로 작업하고 있습니다. 출시를 구독하십시오!)
https://www.libraryofcelsus.com/research/public/code-tutorials/에서 이용할 수있는 문서 형식의 심도 코드 자습서
창의 설치
- qdrant 클라우드를 사용하는 경우 API 키와 URL을 해당 .txt 파일로 복사하십시오.
Qdrant Cloud Link : https://qdrant.to/cloud
로컬 Qdrant 서버를 사용하려면 먼저 Docker : https://www.docker.com/을 설치 한 다음 https://github.com/qdrant/qdrant/blob/master/quick_start.md를 참조하십시오.
로컬 Qdrant 서버가 실행되면 스크립트에 의해 자동 감지해야합니다. - git을 설치하십시오
- Python 3.10.6을 설치하고 경로에 추가하십시오.
- git bash 프로그램을 엽니 다
- 실행 git 클론 : git 클론 https://github.com/libraryofcelsus/basic-qdrant-upload-and-search-example
- 명령 줄을 관리자로 열고 CD를 사용하여 프로젝트 설치 폴더로 탐색하십시오.
- 가상 환경 생성 : Python -m Venv Venv
- Activate the virtual enviornment with: .venvScriptsactivate
- PIP 설치 -R 요구 사항을 사용하여 요구 사항을 설치하십시오
- .txt 파일에서 사용자 이름 및 챗봇 이름을 편집하고 설정하십시오.
- .txt 파일에서 기본 프롬프트 및 인사말을 편집하고 설정하십시오.
- Oobabooga의 경우 : Oobabooga Web-UI를 설치하십시오. github 페이지에있는 1 클릭 설치 프로그램 (https://github.com/oobabooga/text-generation-webui)으로 수행 할 수 있습니다. 그런 다음 Web-UI를 시작하고 세션 탭으로 이동 한 다음 두 API 상자를 클릭 한 다음 적용 및 다시 시작합니다. 이제 모델 탭으로 이동하여 "TheBloke/llama-2-7B-Chat-GPTQ"또는 "TheBloke/llama-2-13B-Chat-GPTQ"를 입력하십시오. (CPU를 사용하는 경우 GMML 버전을 사용하는 경우) 모델이 다운로드되면 모델 로더를 Exllama로 변경하고 GPU 스플릿 매개 변수를 GPU의 한계에 따라 .5GB로 설정하십시오. 다음으로 max_seq_len을 4096으로 설정하십시오.
- OpenAi의 경우 : key_openai.txt 에 OpenAI API 키를 추가하십시오
- python script_name.py 로 챗봇을 실행하십시오
*실행해야합니다.
내 AI 연구는 자체 자금을 지원합니다. 유용하다고 생각하는 경우 저를 지원하는 것을 고려하십시오 :)
연락하다
불화 : LibraryOfCelsus-> 오래된 사용자 이름 스타일 : Celsus#0262
메가 채팅 : https://mega.nz/c !pmnmeizq
이메일 : [email protected]