ppromptor

及時促銷員：及時工程的自治劑框架

及時啟動器（或PPROMPTOR的縮短）是一個python庫，旨在自動生成和改善LLM的提示。它從AutoGPT等自主代理中汲取了靈感，由三個代理組成：提議者，評估員和分析儀。這些代理商與人類專家合作，不斷改善生成的提示。

特徵：

• ？使用LLM來提示他們自己來提示自己。

• ？更強大的LLM的OSS LLMS（例如Llama）（例如，GPT4）的指南

• ？不斷改進。

• ？ ‍？ ‍？與人類專家合作。

• 實驗管理及時工程。

• ？ Web GUI接口。

• ？ ？開源。

警告

• 該項目目前處於舞台上，預計將來會有重大的設計變化。

• 主要功能利用無限循環來增強提示的產生。如果您選擇OpenAi的Chatgpt作為目標/分析LLM，請確保設置使用限制。

概念

可以在DOC中找到更詳細的課程圖

安裝

來自Github

1. 安裝軟件包

 pip install ppromptor --upgrade

2. GitHub的克隆存儲庫

 git clone https://github.com/pikho/ppromptor.git

3. 啟動Web UI

 cd ppromptor
streamlit run ui/app.py

運行本地型號（Wizardlm）

1. 安裝所需的軟件包

 pip install requirements_local_model.txt

2. 測試Wizardlm是否可以正確運行

 cd <path_to_ppromptor>/ppromptor/llms
python wizardlm.py

用法

1. 啟動Web應用程序

 cd <path_to_ppromptor>
streamlit run ui/app.py

2. 為演示目的加載演示項目加載examples/antonyms.db （默認）。這說明瞭如何使用chatgpt引導wizardlm為給定輸入生成反義詞。

3. 配置在“配置”選項卡中，如果可以在本地推斷此模型，則將Target LLM設置為wizardlm 。或選擇Target LLM和Analysis LLM作為chatgpt 。如果使用Chatgpt，請提供OpenAI API密鑰。

4. 加載數據集Demo項目已經加載了5個記錄。您可以添加自己的數據集。 （可選）

5. 啟動工作負載按Start按鈕以激活工作流程。

6. 提示生成的提示可以在Prompt Candidates選項卡中找到。用戶可以通過僅選擇1個候選者，然後修改提示，然後Create Prompt來修改生成的提示。該新提示將由評估器代理評估，然後通過分析儀代理繼續改進。通過選擇2個提示，我們可以並排比較這些提示。

貢獻

我們歡迎各種貢獻，包括新功能請求，錯誤修復，新功能實現，示例和文檔更新。如果您有特定的請求，請使用“問題”部分。對於其他貢獻，只需創建拉動請求（PR）即可。您的參與在改善我們的項目方面受到高度重視。謝謝你！