ppromptor

Prompt-PROMPOR: Uma estrutura de agente autônoma para engenharia imediata

Prompt -promptor (ou encurtar para o ppromptor) é uma biblioteca Python projetada para gerar e melhorar automaticamente os avisos para o LLMS. Ele se inspira em agentes autônomos como a AutoGPT e consiste em três agentes: proponente, avaliador e analisador. Esses agentes trabalham em conjunto com especialistas humanos para melhorar continuamente os avisos gerados.

Características:

• ? O uso de LLMs para se levar a dar poucas amostras.

• ? Orientação para o OSS LLMS (por exemplo, llama) por LLMs mais poderosos (por exemplo, GPT4)

• ? Melhoria continuamente.

• ?‍?‍?‍? Colaboração com especialistas humanos.

• Gerenciamento de experimentos para engenharia imediata.

• ? Interface da GUI da web.

• ? ️‍? Código aberto.

Aviso

• Atualmente, este projeto está em seu estágio ouvido, e prevê -se que haja grandes mudanças de design no futuro.

• A função principal utiliza um loop infinito para aprimorar a geração de avisos. Se você optar pelo ChatGPT do OpenAI como LLMS de Target/Analysis, gentilmente verifique se você define um limite de uso.

Conceito

Um diagrama de classes mais detalhado pode ser encontrado em documentos

Instalações

Do github

1. Instale o pacote

 pip install ppromptor --upgrade

2. Repositório de clones do github

 git clone https://github.com/pikho/ppromptor.git

3. Inicie a interface do usuário da web

 cd ppromptor
streamlit run ui/app.py

Executando o modelo local (Wizardlm)

1. Instale os pacotes necessários

 pip install requirements_local_model.txt

2. Teste se o assistente pode ser executado corretamente

 cd <path_to_ppromptor>/ppromptor/llms
python wizardlm.py

Uso

1. Inicie o aplicativo da web

 cd <path_to_ppromptor>
streamlit run ui/app.py

2. Carregue os examples/antonyms.db (padrão) para fins de demonstração. Isso demonstra como usar o ChatGPT para orientar o Wizardlm para gerar Antonyms para dadas as entradas.

3. Configuração na guia Configuração, defina Target LLM como wizardlm se você puder inferir esse modelo localmente. Ou escolha Target LLM e Analysis LLM como chatgpt . Se o ChatGPT for usado, forneça a chave da API do OpenAI.

4. Carregue o conjunto de dados O projeto de demonstração já carregou 5 registros. Você pode adicionar seu próprio conjunto de dados. (Opcional)

5. Inicie a carga de trabalho Pressione o botão Start para ativar o fluxo de trabalho.

6. Os candidatos rápidos gerados por avisos podem ser encontrados na guia Prompt Candidates . Os usuários podem modificar instruções geradas selecionando apenas 1 candidato e modificando o prompt e Create Prompt . Este novo prompt será avaliado pelo agente do avaliador e, em seguida, continuará melhorando pelo agente do analisador. Ao selecionar 2 instruções, podemos comparar esses prompts lado a lado.

Contribuição

Congratulamo -nos com todos os tipos de contribuições, incluindo novas solicitações de recursos, correções de bugs, implementação de novos recursos, exemplos e atualizações de documentação. Se você tiver uma solicitação específica, use a seção "Problemas". Para outras contribuições, basta criar uma solicitação de tração (PR). Sua participação é altamente valorizada na melhoria do nosso projeto. Obrigado!