Wingman下載 - Wingman源代碼下載

Wingman

其他源碼

1.0.0

下載

用您自己的數據預處理您的機器學習模型（LLM）
配有自動嵌入式生成器和型號問答接口
查看演示·報告錯誤·請求功能

關於項目
- 演示動畫
- 建立
入門
- 先決條件
- 安裝
用法
路線圖
貢獻
執照
接觸
致謝

關於項目

自動將您的機器學習模型（LLM）預算：

PDF文件
GitHub存儲庫
在本地文件夾中刪除了HTML文件

該工具將以GITHUB repo url，PDF文件或本地HTML文件文件夾的形式接受輸入，並執行以下操作：

 generate_embedding_github/pdf.py
• Break apart your input data into manageable chunks
• Send chunked data to Ray Serve Cluster
• Use Ray Cluster to create an embedding from our input chunks

serve run serve:deployment
• Use Ray Cluster to download a Foundational Model
• Load Foundation Model with our Embedding on top
• Start a WebServer and make the Model available via api

query.py "what is the api endpoint to get a list of agents"
• Allow you to interface with the model through the API

該工具適用於想要以簡單的方式培訓特定知識來源的任何人，在這些知識來源，所有繁重的舉動都被抽象為幕後花絮

Wingman建立在射線群集的頂部，因此它可以可擴展並分佈，也可以僅在一台機器上運行。

演示動畫

機翼人士的動畫gif（發音為j聲音）。它顯示創建嵌入式，啟動射線服務器並查詢新訓練的模型。

⬆️

建立

沒有以下內容，這個項目（以及其他許多項目）將是不可能的：

關聯	姓名	開發人員	描述
關聯	faiss	Facebook研究	庫，用於有效的相似性搜索和密集向量的聚類。
關聯	Langchain	Langchain	Langchain是開發由語言模型提供支持的應用程序的框架。
關聯	射線	射線項目	Ray是用於擴展AI和Python應用程序的統一框架。 Ray由一個核心分佈式運行時和一組AI庫組成，用於加速ML工作負載。
關聯	Python	Python軟件基金會	Python是一種高級通用的編程語言。它的設計理念通過使用大量凹痕強調代碼可讀性。
關聯	Pytorch	Linux基金會	Python中的張量和動態神經網絡具有強大的GPU加速度。
關聯	美麗的湯	倫納德·理查森	美麗的湯是一個用於從HTML和XML文件中提取數據的Python庫。它可以與您喜歡的解析器一起使用，以提供慣用的方法來導航，搜索和修改解析樹。
關聯	typing_inspect	伊万·列夫基夫斯基（Ivan Levkivskyi）	Typing_inspect模塊定義了用於Python標準打字模塊中定義的類型的運行時檢查實驗API。

⬆️

入門

要啟動並運行本地副本，請遵循以下簡單步驟。

先決條件

VRAM的16+GB（建議使用24GB）
Linux或WSL
無論您想要什麼Python虛擬環境
（我們喜歡Miniconda）

安裝

進入項目文件夾並加載VENV/CONDA環境後，請運行以下內容：

pip install -r要求.txt
python generate_embedding_pdf.py ./pathto/local.pdf
（可選）在第30行上的Serve.py中修改提示以適合您的用例
服務運行服務：部署
python query.py“禁用指定代理的數據收集的API端點是什麼”

該開源版的當前路線圖上都添加臨時發射器以及UI。

⬆️

用法

 python query.py "what is the api endpoint to disable data collection for a specified agent"
/api/sn_agent/agents/{agent_id}/data/off.

python query.py "what is the api endpoint for the ActivitySubscriptions API"
The API endpoint for the ActivitySubscriptions API is /now/actsub/activities.

python query.py "what is the api endpoint to get a list of agents"
The API endpoint to get a list of agents is "/api/sn_agent/agents/list.

python query.py "what is the api endpoint of the Agent Client Collector API"
The API endpoint of the Agent Client Collector API is "https://<sn_agent-host>:<sn_agent-port>/api/agent-client-collector/admin".

⬆️

路線圖

有關其他功能，例如頁數引用，額外的編程語言合理性，多LLLM管道（總結相關段落以提供更好的上下文利用），Mulimodal模型支持（基於圖像中的數據培訓您的知識嵌入），通過3D Vector Database（Vector Database（Vector Database）（Vector Cloud）（Vector Cloud）（Vector Cloud）（VECTOR雲）的支持，請提供更多的代理支持（我們的dockers in Indestect in Indected Incors），請及時獲得信息的準確性，企業軟件套件。