ppromptor

Promptor de inmediato: un marco de agente autónomo para ingeniería rápida

Promptor (o acortado para PPRomppTor) es una biblioteca de Python diseñada para generar y mejorar automáticamente las indicaciones para las LLM. Se inspira en agentes autónomos como AutoGpt y consta de tres agentes: propositor, evaluador y analizador. Estos agentes trabajan junto con expertos humanos para mejorar continuamente las indicaciones generadas.

Características:

• ? El uso de LLM para impulsarse al dar pocas muestras.

• ? Orientación para OSS LLMS (por ejemplo, LLAMA) de más poderosos LLMS (por ejemplo, GPT4)

• ? Mejora continuamente.

• ?‍?‍?‍? Colaboración con expertos humanos.

• Gestión de experimentos para ingeniería rápida.

• ? Interfaz web GUI.

• ? ️‍? Código abierto.

Advertencia

• Este proyecto se encuentra actualmente en su etapa de orejas, y se anticipa que habrá grandes cambios de diseño en el futuro.

• La función principal utiliza un bucle infinito para mejorar la generación de indicaciones. Si opta por el chatgpt de OpenAI como Target/Analysis LLMS, asegúrese de establecer un límite de uso.

Concepto

Se puede encontrar un diagrama de clase más detallado en Doc.

Instalaciones

De Github

1. Paquete de instalación

 pip install ppromptor --upgrade

2. Repositorio de clones de Github

 git clone https://github.com/pikho/ppromptor.git

3. Iniciar interfaz de usuario web

 cd ppromptor
streamlit run ui/app.py

Ejecución del modelo local (Wizardlm)

1. Instale los paquetes requeridos

 pip install requirements_local_model.txt

2. Pruebe si WizardLM puede ejecutarse correctamente

 cd <path_to_ppromptor>/ppromptor/llms
python wizardlm.py

Uso

1. Iniciar la aplicación web

 cd <path_to_ppromptor>
streamlit run ui/app.py

2. Cargue los examples/antonyms.db (predeterminado) para fines de demostración. Esto demuestra cómo usar ChatGPT para guiar a WizardLM para generar antónimos para entradas dadas.

3. Configuración En la pestaña Configuración, establezca Target LLM como wizardlm si puede inferir este modelo localmente. O elija Target LLM y Analysis LLM como chatgpt . Si se utiliza el chatGPT, proporcione la tecla API OpenAI.

4. Cargue el conjunto de datos El proyecto de demostración ya ha cargado 5 registros. Puede agregar su propio conjunto de datos. (Opcional)

5. Inicie la carga de trabajo Presione el botón Start para activar el flujo de trabajo.

6. Se pueden encontrar indicaciones indicadas de los candidatos generados en la pestaña Prompt Candidates . Los usuarios pueden modificar las indicaciones generadas seleccionando solo 1 candidato, luego modificando el indicador, luego Create Prompt . Evaluator Agent evaluará este nuevo aviso y luego seguirá mejorando por Analyzer Agent. Al seleccionar 2 indicaciones, podemos comparar estas indicaciones lado a lado.

Contribución

Agradecemos todo tipo de contribuciones, incluidas nuevas solicitudes de funciones, correcciones de errores, implementación de nuevas funciones, ejemplos y actualizaciones de documentación. Si tiene una solicitud específica, utilice la sección "Problemas". Para otras contribuciones, simplemente cree una solicitud de extracción (PR). Su participación es muy valorada para mejorar nuestro proyecto. ¡Gracias!