ppromptor

Быстрогопроблемен: автономная структура агента для быстрого разработки

Приглашенная программа (или сокращение для Ppromptor)-это библиотека Python, предназначенная для автоматического генерации и улучшения подсказок для LLMS. Он черпает вдохновение от автономных агентов, таких как Autogpt, и состоит из трех агентов: предложений, оценщика и анализатора. Эти агенты работают вместе с человеческими экспертами, чтобы постоянно улучшать сгенерированные подсказки.

Функции:

• ? Использование LLMS для самого себя побуждает, давая несколько образцов.

• ? Руководство для OSS LLMS (например, Llama) более мощными LLMS (например, GPT4)

• ? Непрерывно улучшение.

• ?‍?‍?‍? Сотрудничество с человеческими экспертами.

• Управление экспериментом для быстрого проектирования.

• ? Интерфейс веб -графического интерфейса.

• ? ‍? Открытый исходный код.

Предупреждение

• Этот проект в настоящее время находится на стадии, и ожидается, что в будущем произойдут серьезные изменения в дизайне.

• Основная функция использует бесконечный цикл для улучшения генерации подсказок. Если вы выберете CHATGPT Openai в качестве Target/Analysis LLMS, пожалуйста, убедитесь, что вы установите предел использования.

Концепция

Более подробную классную диаграмму можно найти в DOC

Установки

От GitHub

1. Установите пакет

 pip install ppromptor --upgrade

2. Репозиторий клона от GitHub

 git clone https://github.com/pikho/ppromptor.git

3. Начните веб -интерфейс

 cd ppromptor
streamlit run ui/app.py

Запуск локальной модели (Wizardlm)

1. Установите необходимые пакеты

 pip install requirements_local_model.txt

2. Проверьте, может ли Wizardlm работать правильно

 cd <path_to_ppromptor>/ppromptor/llms
python wizardlm.py

Использование

1. Запустить веб -приложение

 cd <path_to_ppromptor>
streamlit run ui/app.py

2. Загрузите демонстрационную загрузку проекта examples/antonyms.db (по умолчанию) для демонстрационных целей. Это демонстрирует, как использовать CHATGPT для направления WizardLM для генерации антонимов для данных входов.

3. Конфигурация на вкладке «Конфигурация» установите Target LLM как wizardlm , если вы можете сделать вывод этой модели локально. Или выберите как Target LLM , так и Analysis LLM в качестве chatgpt . Если используется CHATGPT, предоставьте ключ API OpenAI.

4. Загрузите набор данных, который демонстрационный проект уже загрузил 5 записей. Вы можете добавить свой собственный набор данных. (Необязательно)

5. Запустите рабочую нагрузку. Нажмите кнопку Start , чтобы активировать рабочий процесс.

6. Приглашенные кандидаты, сгенерированные подсказки, можно найти на вкладке Prompt Candidates . Пользователи могут изменить сгенерированные проведения, выбрав только 1 кандидата, а затем изменив приглашение, а затем Create Prompt . Эта новая подсказка будет оценена агентом оценщика, а затем продолжит улучшаться с помощью агента анализатора. Выбирая 2 подсказки, мы можем сравнить эти подсказки рядом.

Вклад

Мы приветствуем все виды вкладов, включая новые запросы на функции, исправления ошибок, реализацию новой функции, примеры и обновления документации. Если у вас есть конкретный запрос, используйте раздел «Проблемы». Для других вкладов просто создайте запрос на тягу (PR). Ваше участие высоко ценится в улучшении нашего проекта. Спасибо!