LLM Pandoras

Английский | 简体中文 |

LLM-Workbench-это инструментарий для обучения, точной настройки и визуализации языковых моделей с использованием потоковой связи. Это очень подходит для исследователей и энтузиастов искусственного интеллекта.

Функции

• ? Q & A базы знаний : Мы предоставляем различные способы поиска знаний, где ES использует гибридный поиск 8.9.0 для поиска соответствующих фрагментов знаний на основе ввода и ответа.
• Excel Q & A : Мы используем ChatGLM3 для генерации соответствующего кода Python на основе вопроса, и используем ядро ​​для выполнения соответствующего кода, чтобы вернуть результат.
• ? Обучение модели : с помощью нашего инструментария вы можете легко обучить свою собственную модель языка.
• ? Моделируйте точную настройку : мы предоставляем простой способ точно настроить вашу модель, чтобы лучше адаптироваться к вашей конкретной задаче.
• Визуализация модели : наш инструментарий включает в себя некоторые инструменты визуализации, которые могут помочь вам лучше понять вашу модель.

? Установка Docker-Compose

Установите Elasticsearch (пожалуйста, откройте соответствующий порт сервера в соответствии с файлом Docker-Compose или настраивайте его):

 cd docker/es
docker-compose up -d

Чтобы использовать вопросы и ответы базы знаний, вам необходимо построить соответствующий индекс:

Метод первый: вы можете установить LLM-Workbench со следующей командой:

 cd LLM-Workbench
docker-compose up -d

Для случая использования Q & A Q & A вам необходимо войти в контейнер и указать интерпретатор ядра:

 ipython kernel install --name llm --user

Где LLM соответствует названию среды Conda.

? Использование

Метод второй: После установки LLM-WorkBench вы можете начать его со следующей команды:

 pip install -r requirements.txt
streamlit run chat-box.py

Затем вы можете открыть отображаемый URL в своем браузере, чтобы начать использовать LLM-Workbench.

? Вклад

Мы приветствуем любую форму вклада! Если у вас есть какие -либо вопросы или предложения, не стесняйтесь поднимать их на GitHub.

? Лицензия

LLM-Workbench выпускается по лицензии MIT. Для получения более подробной информации см. Файл лицензии.

? Связаться с нами

Если у вас есть какие -либо вопросы или предложения, не стесняйтесь спрашивать нас по электронной почте или GitHub.

Звездная история