vicunia

Vicunia -Alpaca.CPP 채팅 프론트 엔드 및 툴링

Vicunia는 Alpaca.cpp를 사용하고 Stanford Alpaca 및 llama.cpp 제품군의 다른 모델을 설치하고 채팅하기위한 GUI를 제공하는 프론트 엔드입니다. Windows, Linux 및 Mac에서 사용할 수 있습니다

다운로드

최신 버전은 릴리스를 참조하십시오.

자동 설정 (v2.0+)

• "설정"탭으로 이동하십시오
• "모델 다운로드"를 클릭하십시오.
• 채팅 탭의 옵션 메뉴에서 경로가 올바른 폴더를 가리 키십시오 (Vicunia root dir + resource/models)

Windows에서 Vicunia root dir는 다음과 같이 C:UsersyourusernameAppDataLocalProgramsvicunia .

설정 설명서

Alpaca.cpp 의 안내서를 따르십시오 !

TL; DR : OS 홈 디렉토리에 모델이있는 작업 및 컴파일 된 Alpaca.cpp 폴더가 있습니다 (Windows : C:Users%USERNAME%alpaca.cpp , linux : /home/%USERNAME%/alpaca.cpp , macos : /Users/%USERNAME%/alpaca.cpp ). 컴파일 된 바이너리 (chat.exe 등)와 모델은 alpaca.cpp 폴더의 루트에 있어야합니다.

문제 해결

• 현재 alpaca.cpp가 오류를 던지면 Vicunia와 함께 작동하는 포크에서 지점을 테스트했습니다.
• Windows에서는 AVX2 지원이 포함 된 CPU가 필요합니다 (적어도 포함 된 바이너리의 경우).
• 버전을 업데이트하면 문제를 피하려면 먼저 홈 폴더에서 .vicunia-settings.json 삭제하십시오.
• MAC 버전은 지금 실제로 테스트되지 않았습니다

Github에 대한 문제를 자유롭게 열십시오!

TODO

• 더 많은 옵션
• 마크 다운 렌더러

다른 .CPP 포크를 사용하는 방법

• chat (OSX / Linux) 또는 chat.exe 에 실행 파일 이름을 바꿉니다
• 같은 폴더에 모델 파일이 있습니다
• 옵션 메뉴에서 경로를 chat 폴더에 붙여 넣습니다

크레딧

• Alpaca.cpp
• llama.cpp
• 달라이