ToK

지식의 트로브 (토크)

Trove of Knowledge (Tok)는 AI 모델을 활용하고 문서를 쿼리하고 상황에 맞는 정확한 응답을 생성하는 AI 모델을 활용하는 완전히 로컬 , 고품질 및 확장 가능한 검색 방지 생성 (RAG) 응용 프로그램 입니다. Tok를 사용하면 문서를 업로드하고 쿼리에 맞게 정보를 얻을 수있는 더 많은 정보를받을 수 있습니다. 또한 앱은 채팅을 자동으로 저장하여 언제든지 대화를 계속하고 계속 대화 할 수 있습니다.

목차

• ? 특징
• 전제 조건
• 시작하기
• 용법
• ? 비디오 데모
• ? 비주얼 투어
• 결과

특징

• ? ️ 완전한 로컬, 안전 및 개인 정보 보호 중심 : TOK는 모든 작업이 로컬로 수행되도록하여 데이터를 개인적이고 안전하게 유지합니다.
• 다목적 문서 업로드 : 다양한 유형의 텍스트 문서 및 폴더를 업로드하여 더 많은 정보를 얻은 AI 응답을위한 색인을 만듭니다.
• ? ️ 선택적 메타 데이터 할당 : 사용자 정의 메타 데이터로 문서 업로드 향상을 강화하여 데이터를보다 구성하고 액세스 할 수 있도록합니다.
• 포괄적 인 UI 설정 : 사용자 인터페이스를 통해 청킹 옵션, 온도, 컨텍스트 창 크기 및 채팅 모드와 같은 중요한 설정에 쉽게 액세스하고 수정합니다.
• ✍️ 사용자 정의 프롬프트 : LLM (Lange Language Model) 및 채팅 엔진 모두에 대한 개인화 된 프롬프트를 추가하고 사용하여 귀하의 요구에 대한 응답을 조정합니다.
• 타이틀과의 지속적인 채팅 : 채팅은 사용자 정의 가능한 타이틀로 저장되어 다시 방문하여 나중에 계속할 수 있습니다.
• 영구 채팅 기록 : 언제든지 과거 대화에 액세스하고 검토하십시오.
• ? Ollama에서 모델 선택 : 특정 작업 및 선호도를 위해 Ollama에서 AI 모델을 직접 선택하고 가져옵니다.
• smart 스마트 스 니펫으로 스트리밍 응답 : 특히 코드 스 니펫의 경우 스마트 출력 형식으로 실시간 응답을 경험하십시오.
• ? 확장 가능 : 추가 기능이나 통합으로 Tok의 기능을 쉽게 확장합니다.

전제 조건

TOK를 실행하려면 두 가지 종속성을 설치해야합니다.

• Ollama : 쉬운 모델 다운로드, 서빙 및 지능형 장치 로딩을 용이하게합니다. ( 필수의 )
• NEO4J 데스크탑 : 최상위 벡터 및 그래프 스토어에 사용됩니다. ( Docker없이 실행중인 경우 / 릴리스 또는 연구 목적으로 EXE를 사용하여 설치 )

NEO4J 설정 (NEO4J 데스크탑이 설치된 경우)

1. NEO4J 데스크탑을 다운로드하여 설치하십시오.
2. 시스템의 경로 환경 변수에 NEO4J 빈 경로를 추가하십시오. 이를 통해 NEO4J는 토크로 액세스 할 수 있습니다.
   • Windows의 예제 : pathtouser.Neo4jDesktoprelate-datadbmssyour-current-dbmsbin

• (Windows의 경우) 명령 프롬프트에서 다음 명령을 실행하거나 Windows 용 PowerShell을 실행하여 NEO4J CLI를 활성화합니다.

  neo4j windows-service install

다른 아치 (및 참조)에 대한 위의 단계를 수행하려면이 링크를 살펴보십시오.

시작하기

토크를 실행할 두 가지 주요 옵션이 있습니다.

옵션 1 : Docker와 함께 실행 (권장)

1. 기계에 Docker 및 Docker Compose가 설치되어 있는지 확인하십시오.
2. 저장소 복제 :

   git clone https://github.com/gurveervirk/ToK.git

3. docker-compose.yml 파일이 포함 된 디렉토리로 이동하십시오.

    cd ToK/docker

4. 지역 시스템에서 Ollama를 제공하십시오. ( 앱은 자동으로 제공 할 수 있습니다 )

   ollama serve

5. Docker Compose로 응용 프로그램을 시작하십시오.

   docker-compose up -d

옵션 2 : 실행 토크 실행 가능 (더 이상 사용되지 않음) (더 이상 유지 관리되지 않음)

1. 릴리스 페이지를 방문하여 최신 ToK.exe 위치/디렉토리로 다운로드하십시오 (앱은 올바른 작업을 위해 필요한 파일과 폴더를 만듭니다).

2. 앱을 한 번 실행하고 오른쪽 상단 코너에서 설정 아이콘을 클릭하여 설정을 수정하십시오.

   • 사용자 이름 : NEO4J 데이터베이스 사용자 이름으로 교체하십시오.
   • 비밀번호 : NEO4J 프로젝트에서 설정 한 비밀번호로 교체하십시오.
   • URI : NEO4J 프로젝트의 URI로 교체하십시오.

   참고 : 기본 사용자 이름과 URI는 NEO4J DB의 기본값입니다. 앱에서 만든 settings.json 에서 수정할 수도 있습니다.

완료! 이제 TOK 사용을 시작할 준비가되었습니다.

용법

설정을 완료 한 후 :

1. 발사 토크 .
2. 향상된 쿼리 응답을 위해 봇과 직접 채팅하거나 오른쪽 상단 버튼을 사용하여 문서를 업로드하도록 선택하십시오.
3. 데이터를 비공개로 안전하게 유지하는 로컬로 운영되는 AI 기반 지식 보조원과 상호 작용하는 완벽한 경험을 즐기십시오.

참고 : LLM / 채팅 엔진을 홍보 한 직후 새 채팅을 만들 때, 몇 초 동안 채팅을 할 수없는 채 채팅과 함께 사이드 바에서 최신 채팅이 표시되지 않을 수 있습니다. 이것은 새로운 채팅이 LLM 생성 타이틀로 저장 되었기 때문일 수 있습니다.

비디오 데모

행동을 보려면 아래 비디오를보십시오.

비주얼 투어

아래 이미지를 통해 주요 기능과 토크 사용자 인터페이스를 탐색하십시오.

모달을 업로드하십시오

모달 설정

모달 프롬프트

결과

이 앱은 Triviaqa 데이터 세트의 하위 집합에서 성공적으로 테스트되었으며 결과는 다음과 같습니다.

이 링크에서 위의 결과에 대한 코드를 찾으십시오.

스타 역사