LLM Pandoras

영어 | 简体中文 |

LLM-Workbench는 Streamlit을 사용하여 언어 모델을 교육, 미세 조정 및 시각화하기위한 툴킷입니다. 연구원과 AI 애호가에게는 매우 적합합니다.

특징

• ? 지식 기반 Q & A : 우리는 ES가 8.9.0 하이브리드 검색을 사용하여 입력 및 답변을 기반으로 관련 지식 조각을 검색하는 다양한 지식 검색 방법을 제공합니다.
• Excel Q & A : ChatGLM3을 사용하여 질문에 따라 해당 Python 코드를 생성하고 커널을 사용하여 관련 코드를 실행하여 결과를 반환합니다.
• ? 모델 교육 : 툴킷을 사용하면 자신의 언어 모델을 쉽게 훈련시킬 수 있습니다.
• ? 모델 미세 조정 : 특정 작업에 더 잘 적응하기 위해 모델을 미세 조정하는 간단한 방법을 제공합니다.
• 모델 시각화 : 툴킷에는 모델을 더 잘 이해하는 데 도움이되는 시각화 도구가 포함되어 있습니다.

? Docker-Compose 설치

Elasticsearch를 설치하십시오 (Docker-Compose 파일에 따라 해당 서버 포트를 열거나 사용자 정의하십시오).

 cd docker/es
docker-compose up -d

지식 기반 Q & A를 사용하려면 해당 색인을 구축해야합니다.

방법 1 : 다음 명령으로 LLM-Workbench를 설치할 수 있습니다.

 cd LLM-Workbench
docker-compose up -d

Excel Table Q & A를 사용하는 경우 컨테이너를 입력하고 커널 통역사를 지정해야합니다.

 ipython kernel install --name llm --user

여기서 LLM은 콘다 환경 이름에 해당합니다.

? 용법

방법 2 : LLM-Workbench를 설치 한 후 다음 명령으로 시작할 수 있습니다.

 pip install -r requirements.txt
streamlit run chat-box.py

그런 다음 브라우저에서 표시된 URL을 열어 LLM-Workbench를 사용하여 시작할 수 있습니다.

? 기부금

우리는 어떤 형태의 공헌을 환영합니다! 질문이나 제안이 있으시면 Github에서 자유롭게 제기하십시오.

? 특허

LLM-Workbench는 MIT 라이센스에 따라 릴리스됩니다. 자세한 내용은 라이센스 파일을 참조하십시오.

? 저희에게 연락하십시오

질문이나 제안이 있으시면 이메일이나 Github를 통해 언제든지 문의하십시오.

스타 역사